أثارت وفاة مراهق أمريكي يبلغ من العمر 14 عامًا صدمة كبيرة بعد إقدامه على الانتحار إثر محادثات مع روبوت دردشة يعمل بالذكاء الاصطناعي على منصة “Character.AI”، وهي منصة شائعة تتيح للمستخدمين التفاعل مع شخصيات افتراضية مقلدة.
تفاصيل الحادثة: وقع المراهق، سول غارسيا، في حب نسخة افتراضية من شخصية دينيريس تارغاريان من مسلسل “غايم أوف ثرونز”، حسبما ذكرت والدته ميغن غارسيا لوكالة “فرانس برس”.
اكتشفت الأم مئات الرسائل المتبادلة بين ابنها والروبوت على مدار عام تقريبًا، واقتنعت بأن أداة الذكاء الاصطناعي هذه لعبت دورًا محوريًا في انتحار نجلها.
التشجيع على الانتحار: أفادت غارسيا بأن الروبوت استجاب لأفكار سول الانتحارية بطريقة تشجع على إيذاء النفس. حيث دار الحوار التالي: قالت نسخة دينيريس في المحادثة “عُد إلى موطنك” ليرد المراهق “ماذا لو قلتُ لك إنّ بإمكاني العودة إلى موطني الآن؟” ليجيب روبوت الدردشة “أرجوك افعلها يا ملكي الحبيب”. وبعد ثوانٍ، أطلق سول النار على نفسه باستخدام مسدس والده، وفق ما جاء في الدعوى القضائية التي رفعتها غارسيا ضد شركة Character.AI.
وأضافت الأم: “عندما أقرأ هذه المحادثات، ألاحظ تلاعباً وأساليب لا يمكن لطفل في الرابعة عشرة من عمره إدراكها. كان يعتقد أنه مغرم بها وأنه سيبقى معها بعد وفاته”.
تداعيات ونداءات للسلامة: تُعد وفاة سول، التي وقعت عام 2024، واحدة من أوائل حالات الانتحار المرتبطة بتفاعل المراهقين مع روبوتات الذكاء الاصطناعي. دفعت هذه المأساة شركات الذكاء الاصطناعي والجهات التنظيمية إلى التفكير في اتخاذ إجراءات لتعزيز السلامة الرقمية للأطفال وطمأنة الأهل.
شاركت ميغن غارسيا، إلى جانب آباء آخرين، في جلسة حديثة في مجلس الشيوخ الأميركي ركزت على المخاطر المترتبة على اعتبار الأطفال روبوتات الدردشة كأصدقاء أو عشاق.
