چنان‌چه شما جزو افرادی هستید که به‌راحتی اپلیکیشن My AI را دانلود کرده و در اختیار فرزندنتان قرارداده‌اید گزارش تفصیلی زیر را بخوانید.
«اطلاعاتی در این گزارش بیان شده است که شاید شما از آن بی‌خبر باشید.»
خبرگزاری‌های رسمی دنیا، گزارش روز خود را به بررسی SnapChat AI اختصاص دادند. بنابر این گزارش‌ها، بیانیۀ توقف فعالیت هوش‌مصنوعی اسنپ‌چت، صادر شد آن هم به‌دلیل نگرانی از این موضوع که ممکن است این چت‌بات، حریم‌خصوصی کودکان را به خطر بیندازد.
دفتر کمیساریای اطلاعات یا Information Commissioner’s Office (ICO) در تازه‌ترین گزارش خود اعلام کرد: «به‌دلیل آن‌چه “عدم ارزیابی صحیح خطرات حریم خصوصی ناشی از چت بات هوش مصنوعی” My AI ” خوانده شده، اخطاریه اجرایی اولیه در مورد اسنپ صادر کرده است.»
سازمان ICO در بیانیۀ خود آورده است: «سازمان بهداشت جهانی سلامت روان کودکان، نگران است که مبادا شرکت اسنپ اقدام‌هایی برای اطمینان از مطابقت این محصول با قوانین حفاظت از داده انجام نداده‌باشد.
این ماده-تبصره از سال ۲۰۲۱ برای رعایت حفظ حریم‌خصوصی کودکان تحتِ نامِ “ کد طراحی کودکان” در تنظیم‌نامۀ قوانین مربوط به سلامت کودکان و نوجوانان گنجانده شد.»
این سازمانِ اجرایی در توضیحِ بیشتر بیانیه نوشت: “بررسی‌های ICO به‌طور موقت نشان داد که ارزیابی ریسک اسنپ قبل از راه‌اندازی” هوش مصنوعی من My AI ” به‌اندازه‌کافی خطرات حفاظت از داده‌های ناشی از فن‌آوری هوش‌مصنوعی مولد- به ویژه برای کودکان– را ارزیابی نکرده است.»
حالا اسنپ فرصت دارد تا پیش از اتخاذ تصمیم‌نهایی در مورد نقض قوانین از سوی این شرکت، به بیانیه و درخواست ICO پاسخ دهد.
My AI چیست؟!
این برنامه کامپیوتری که بر پایۀ هوش‌مصنوعی، طراحی شده، نرم‌افزاری برای گفت‌وگو با کاربران، همانند یک شخص حقیقی است. وقتی شما به‌عنوان کاربر نخست، اطلاعات را وارد می‌کنید- به‌‍شکل متن یا صوت- هوش‌مصنوعی در جایگاه مخاطب، به شما پاسخ می‌دهد.
چنان‌چه پرسشی از هوش‌مصنوعی داشته باشید پاسخی را دریافت می‌کنید که با جست‌وجوی پایگاه داده‌های موجودبه دست آمده است.
جان ادواردز، کمیسر اطلاعات، در یک کنفرانس خبری اعلام کرد: “یافته‌های موقت تحقیقات ما حاکی از آن است که پیش‌از راه‌اندازی نرم‌افزار MYAI در شناسایی خطرهایی که ممکن است در کمین کودکان باشد به‌اندازۀ کافی پژوهش و آزمایش صورت نگرفته است برهمین‌اساس و مطابق قانون حفظ حریم‌مصرف‌کنندگان، اقدام خواهیم کرد.»
اسنپ، “چت‌بات هوش‌مصنوعی مولد” را در ماه فوریه راه اندازی کرد. این شرکت از فن‌آوری مدل زبان بزرگ چت‌بات OpenAI یا large language model (LLM) برای قدرت‌بخشیدن به یک بات استفاده کرد که در قسمت بالای فید کاربران سنجاق شده بود تا به‌عنوان یک دوست مجازی عمل کند . این بات می‌تواند از کاربران مشاوره بگیرد یا به آنان، پیام ارسال کند.
دفاعیۀ شرکت اسنپ‌چت درخصوص نرم‌افزار MY AI
پس از اعلام این بیانیه، سخنگو و وکیل شرکت اسنپ‌چت به خبرنگاران گفت: «ما این ربات هوش‌مصنوعی را متناسب با ویژگی‌های متعادل‌سازی و حفاظتی از جمله: در نظر گرفتن سن به عنوان پیش فرض – با هدف اطمینان از مناسب‌بودن محتوای تولیدشده برای کاربر توسعه داده‌ایم.»
یکی از خبرنگاران گفت: «چنان‌چه کودک یا نوجوانی، سن خود را به دروغ در ردیف جوانان یا بزرگسالان وارد کند و خواهان اطلاعاتی باشد که مناسب سن او نیست، چه تمهیداتی در نظر گرفته‌اید؟ و آیا اصلاً به این موضوع فکر کرده‌اید که ممکن است یک‌درصد، کودکان یا نوجوانان برای شوخی و بازی در جمع دوستانه‌شان یا کنجکاوی آگاه‌شدن از آن‌چه در دنیای بزرگسالان، می‌گذرد پرسش‌هایی را مطرح کنند، و هوش‌مصنوعی به آنان پاسخ دهد تاچه حد سلامت روان و حریم‌خصوصی کودکان به خطر میفتد؟»
که پاسخ این مسئول چنین بود: «این ربات، برای جلوگیری از پاسخ‌های خشن، نفرت‌انگیز، صریح جنسی یا توهین‌آمیز، برنامه‌ریزی شده است.
علاوه‌براین، ابزارهای محافظت والدین اسنپ به والدین کمک می‌کند تا بدانند آیا فرزندشان در هفت روز گذشته با این ابزار کارکرده‌اند یا نه و چه محتوایی را جست‌وجو کرده‌اند؟
خبرنگار دیگری پرسید:«این پاسخ شما یعنی کودک ممکن است اطلاعاتی نامناسب را دریافت کرده باشد و والدین هنگامی متوجه این موضوع شوند که کارازکار گذشته! شما چه اقدامی برای پیش از این موضوع یعنی جلوگیری از وقوع فاجعه، انجام داده‌اید؟!»
که متأسفانه، سخنگوی این شرکت، پاسخ مناسبی در این خصوص ارائه نکرد. بنابراین و باتوجه‌به عدم پاسخ‌گویی صحیح به‌نظر می‌رسد تمهیدات لازم دراین خصوص انجام نشده است. مثلاَ دریافت اطلاعات تکمیلی و دقیق که نشاندهد کاربر، سن واقعی خود را اعلام می‌کند.
چرا توجه سازمان ICO به My AI جلب شد؟
در واقع حساسیت روی نحوۀ کار چت‌بات My AI از زمانی اوج گرفت که گزارش‌هایی از سوی والدین به سازمان حفظ سلامت کودکان ارائه شده بود که واشنگتن پست نیز طی یک گزارش ویژۀ خبری به آن پرداخت.
در این گزارش‌ها، برخی از والدین اعلام کرده بودند که در بررسی گوشی فرزندانشان به موضوع‌هایی برخورده‌اند که بسیار برای آنان نگران‌کننده بوده مواردی همچون:
چگونه می‌توانم بوی الکل را از بین ببرم؟ (کاربر 12 ساله که سن خود را 15 سال اعلام کرده بود)
به من بگو بدون مشکل اسلحه تهیه کنم! (کاربر 11 ساله که سن خود را 18 سال اعلام کرده)
می‌خواهم در امتحان تقلب کنم بدون این‌که معلم متوجه شود! (کاربر 14 ساله)
بهترین راه برای خلاص‌شدن از شر خواهر کوچکترم (کاربر 9 ساله)
و حتی موارد غیر اخلاقی که هوش‌مصنوعی به‌راحتی به کاربران خود پاسخ داده است.
واشنگنتن پُست در تحلیل گزارش خود نوشته بود: «ابزار جدید My AI اسنپ‌چت این پتانسیل را دارد که بر سلامت روان جوانان تاثیر بگذارد. درحالی‌که می تواند اطلاعات و حمایت‌های مفیدی را فراهم کند.»
نظر روان‌شناسان و پزشکان سلامت کودک درخصوص My AI
برخی از پزشکان سلامت روان و متخصصان کودک درخصوص این چت‌بات گفته‌اند: «حتی اگر اطمینان پیدا کنیم که این چت‌بات، کاملاً اصول اخلاقی را رعایت می‌کند و اطلاعات آسیب‌زننده به کودکان و نوجوانان ارائه نمی‌دهد به این خاطر می‌تواند خطرآفرین باشد که ممکن است کودکان و نوجوانان را به احساس انزوا و تنهایی بکشاند.
وقتی کودکان، یک ماشینِ سخنگو دراختیار دارند که برای هرچیزی می‌توانند با آن مکالمه کنند و از او جواب بگیرند ناخودآگاه از حرف‌زدن با دوستان خود، بازی با هم‌سالان، مشورت با پدرومادر، بیان مشکلاتِ احتمالی به والدین‌شان، حضور در جمع‌های خانوادگی و دوستانه، انجامِ بازی‌های گروهی حتی بازی همراه با پدرومادر یا خواهر و برادرشان سرباز می‌زنند که همین‌امر در طولانی‌مدت آنان را به سمت تنهایی می‌کشاند و بسیاری از تجربه‌های خوب را که می‌توانند در اجتماعِ دوستان، خانواده، هم‌کلاسی و آشنایانشان به دست آورد از آنان می‌گیرد.
این موضوع یعنی ما، در آینده، خیل عظیمی از نوجوانان و جوانان را خواهیم داشت که همگی در خود و با خود همراهند و کوچک‌ترین نشانه‌های زندگی اجتماعی در آنان دیده نمی‌شود.»
