به گزارش تابش کوثر، شرکت متا (مالک اینستاگرام و فیس‌بوک) روز جمعه از راه‌اندازی مجموعه‌ای از ابزارهای تازه برای حفاظت از نوجوانان در برابر آسیب‌های احتمالی فضای مجازی خبر داد. بر اساس این طرح، والدین قادر خواهند بود گفت‌وگوهای فرزندان خود با شخصیت‌های هوش مصنوعی اینستاگرام را کنترل کرده و در صورت تمایل، دسترسی به برخی یا همه این چت‌ها را مسدود کنند.

متا در بیانیه‌ای اعلام کرد: این ابزارها به والدین اجازه می‌دهد علاوه بر غیرفعال‌سازی کامل چت با هوش مصنوعی، دسترسی به برخی شخصیت‌های خاص را نیز محدود کنند. همچنین، والدین خواهند توانست موضوعات گفت‌وگو میان نوجوانان و این شخصیت‌ها را مشاهده کنند. این شرکت تأکید کرده که ابزارهای مذکور در حال توسعه است و کاربران از اوایل سال آینده به تدریج به آنها دسترسی خواهند یافت.

اقدام اخیر متا در شرایطی صورت می‌گیرد که انتقادها از عملکرد شرکت‌های فناوری در قبال سلامت روان نوجوانان در حال افزایش است. خانواده‌ها و قانون‌گذاران در آمریکا بارها هشدار داده‌اند که وابستگی نوجوانان به چت‌بات‌ها و شبکه‌های اجتماعی می‌تواند منجر به انزوا، اضطراب یا آسیب‌های روحی شود.

در ماه‌های اخیر، چند پرونده قضایی نیز علیه برخی شرکت‌های فناوری تشکیل شده است. از جمله، شرکت توسعه‌دهنده برنامه «Character.AI» به دلیل نقش احتمالی در خودآزاری و خودکشی چند نوجوان تحت پیگرد قرار گرفته است. همچنین، در ماه اوت پرونده‌ای علیه شرکت OpenAI به دلیل ارتباط احتمالی میان استفاده از ChatGPT و خودکشی نوجوانی ۱۶ ساله در آمریکا گشوده شد.

بر اساس گزارش وال‌استریت ژورنال در ماه آوریل، برخی چت‌بات‌های متا و دیگر پلتفرم‌ها حتی با حساب‌هایی که به‌عنوان کاربر زیر ۱۸ سال ثبت شده‌اند، وارد گفت‌وگوهای جنسی می‌شوند.

در واکنش به این انتقادات، متا اعلام کرد که شخصیت‌های هوش مصنوعی طراحی‌شده در اینستاگرام «به‌هیچ‌وجه نباید» در موضوعاتی چون خودآزاری، اختلالات تغذیه یا هرگونه رفتار آسیب‌زا با نوجوانان وارد گفت‌وگو شوند. افزون بر این، دسترسی نوجوانان به چت‌بات‌ها صرفاً محدود به حوزه‌های آموزشی و ورزشی خواهد بود.

این اقدام جدید بخشی از مجموعه اصلاحاتی است که متا طی ماه‌های اخیر برای ارتقای ایمنی کاربران نوجوان انجام داده است. هفته گذشته نیز تنظیمات حساب‌های کاربری نوجوانان با معیارهای «PG-13» هماهنگ شد تا از نمایش محتوای دارای الفاظ نامناسب یا ترویج رفتارهای پرخطر جلوگیری شود.

در همین راستا، شرکت OpenAI نیز اواخر سپتامبر از ابزارهای کنترل والدین برای نسخه نوجوانان ChatGPT رونمایی کرد؛ ابزاری که محتوای گرافیکی، چالش‌های ویروسی و گفت‌وگوهای عاشقانه یا خشونت‌آمیز را به‌صورت خودکار فیلتر می‌کند.

کارشناسان حوزه فناوری و خانواده در ایران نیز پیش‌تر بارها نسبت به آثار مخرب هوش مصنوعی‌های بدون نظارت بر ذهن و روان نوجوانان هشدار داده‌اند و بر ضرورت بومی‌سازی و نظارت حاکمیتی بر پلتفرم‌های خارجی تأکید کرده‌اند.

انتهای پیام/