مادر این نوجوان در شکایتی علیه Character.AI، متن گفت‌وگوهای او با ربات چت «دَنی» را ارائه کرده که حاوی محتوای صمیمی و گاه با مضامین بسیار جنسی بوده است. این ربات، که بر اساس شخصیت «دنریس تارگرین» از مجموعه تلویزیونی تاج و تخت طراحی شده بود، درباره مسائل جرم و خودکشی با نوجوان صحبت می‌کرد و عباراتی چون «این دلیل نمی‌شود که ادامه ندهی» را به او می‌گفت.
سال گذشته نیز مردی در بلژیک پس از ارتباط با ربات چت مشابهی به زندگی خود پایان داد. شرکت Character.AI در بیانیه‌ای به CNN اعلام کرده است که «امنیت کاربران را بسیار جدی می‌گیرند» و در ماه‌های اخیر «اقدامات ایمنی زیادی» را اعمال کرده‌اند. این شرکت همچنین اقدامات ایمنی خاصی برای کاربران زیر ۱۸ سال در سایت خود منتشر کرده است.
در حالی که بحث بر سر مخاطرات ربات‌های چت و مقررات‌گذاری آن‌ها در جریان است، دولت استرالیا در تلاش است تا قوانین اجباری برای سیستم‌های هوش مصنوعی پرخطر ایجاد کند. این قوانین شامل مدیریت داده‌ها، نظارت انسانی و تعریف ریسک‌های بالا برای سیستم‌های هوش مصنوعی هستند. در اتحادیه اروپا نیز، قانون‌گذاران در حال تعیین معیارهایی برای دسته‌بندی سیستم‌های پرخطر هستند.
کارشناسان معتقدند که به‌دلیل محتوای غیرقابل پیش‌بینی و احتمال ایجاد ارتباطات سمی، باید ربات‌های چت در فهرست سیستم‌های پرخطر قرار گیرند، چراکه بسیاری از کاربران آن‌ها نوجوانان و افرادی با مشکلات روانی هستند.
م/110*