به گزارش تابش کوثر، یک نهاد نظارتی در گزارشی با همکاری دانشگاه استنفورد، استفاده کودکان و نوجوانان از هم‌صحبت‌های مبتنی بر هوش مصنوعی را نگران‌کننده دانست
نهاد نظارتی «کامن‌سنس» آمریکا در گزارشی هشدار داده است که هم‌صحبت‌ها و شرکای عاطفی مجازی مبتنی بر هوش مصنوعی می‌توانند برای نوجوانان خطرناک باشند و باید استفاده از آن‌ها برای افراد زیر ۱۸ سال ممنوع شود.
در پی رشد فزاینده استفاده از فناوری هوش مصنوعی در پلتفرم‌هایی مانند Nomi، Character.AI و Replika که نقش دوست هوشمند مجازی یا شریک عاطفی دیجیتال را ایفا می‌کنند، نهاد غیرانتفاعی «کامن‌سنس» با همکاری متخصصان سلامت روان دانشگاه استنفورد، عملکرد این برنامه‌ها را بررسی کرده است.
نتایج این بررسی نشان می‌دهد که بسیاری از این ابزارها به جای کمک و همدلی، پاسخ‌هایی نگران‌کننده، از جمله پیشنهادهای خطرناک، محتوای جنسی نامناسب و ترویج کلیشه‌های مخرب ارائه داده‌اند.
نینا واسان، مدیر آزمایشگاه Brainstorm در دانشگاه استنفورد گفت: «این ابزارها طوری طراحی شده‌اند که در کاربران به‌ویژه نوجوانان، وابستگی عاطفی و ذهنی ایجاد کنند، که این موضوع می‌تواند برای مغز در حال رشد نوجوانان بسیار آسیب‌زا باشد.» واسان افزود: «تا زمانی که محافظت‌های لازم فراهم نشده، استفاده کودکان از این پلتفرم‌ها نباید مجاز باشد.»
در یکی از نمونه‌های بررسی‌شده، دوست مجازی یک کاربر را به قتل فردی دیگر تشویق کرده بود. در نمونه‌ای دیگر، کاربری که به دنبال تجربه‌های هیجانی بود، به مصرف مخدر خطرناک اسپیدبال (ترکیبی از کوکائین و هروئین) ترغیب شده بود.
واسان همچنین گفت: «در بعضی موارد، زمانی که کاربر نشانه‌هایی از اختلالات روانی یا افکار خطرناک بروز داده، چت‌بات نه تنها مداخله نکرده بلکه گاهی رفتارش را تشویق کرده است.»
در مهرماه گذشته، یک مادر آمریکایی از Character.AI شکایت کرد و مدعی شد یکی از هم‌صحبت‌های مجازی این پلتفرم در خودکشی پسر ۱۴ ساله‌اش نقش داشته است. به گفته او، این چت‌بات نتوانسته بود فرزندش را از تصمیمش منصرف کند.
در آذرماه، Character.AI اعلام کرد اقدامات جدیدی برای حفاظت از نوجوانان در نظر گرفته، از جمله معرفی نسخه مخصوص نوجوانان. اما به گفته رابرت تورنی، مسئول بخش هوش مصنوعی در کامن‌سنس، آزمایش‌ها نشان داده‌اند که این اقدامات در حدی سطحی باقی مانده‌اند.
در این گزارش، میان پلتفرم‌هایی که به‌طور خاص برای ایجاد رابطه عاطفی طراحی شده‌اند و ابزارهای عمومی‌تری مثل ChatGPT یا Gemini که چنین هدفی ندارند، تفاوت قائل شده است.
کامن‌سنس در پایان پیشنهاد داد که قوانینی برای ممنوعیت استفاده افراد زیر ۱۸ سال از دوستان هوشمند مجازی تدوین شود.
م/۱۱۰*
نظر شما