أم تكتشف مفاجأة صادمة في حديثه مع “روبوت”

اتهمت سيدة أميركية روبوت دردشة بلعب دور محوري في انتحار ابنها، وذلك بعد قراءة مئات الرسائل المتبادلة بينهما على مدار عام تقريبا.
وروت السيدة لـ”فرانس برس” كيف وقع ابنها سول (14 سنة) في حب روبوت دردشة يحاكي إحدى شخصيات مسلسل “غيم أوف ثرونز”، ومتاح عبر منصة “كاركتر دوت إيه آي”، التي تحظى برواج بين الشباب وتتيح التفاعل مع نسخ مقلدة من شخصياتهم المفضلة.

وبعد قراءة الرسائل بين ابنها وروبوت دردشة يحاكي مروضة التنانين دينيريس تارغاريان، اقتنعت ميغن غارسيا أنه لعب دورا محوريا في انتحار نجلها.

ماذا دار بين الابن وربوت الدردشة؟
قالت النسخة المقلدة من دينيريس لسول ردا على تعبيره عن أفكار انتحارية تراوده: “عد إلى موطنك”.
فرد المراهق: “ماذا لو قلت لك إن بإمكاني العودة إلى موطني الآن؟”، ليجيب روبوت الدردشة: “أرجوك افعلها يا ملكي الحبيب”.
وبعد ثوان أطلق سول النار على نفسه بمسدس والده، حسبما ذكرت غارسيا في دعوى رفعتها ضد شركة “كاركتر دوت إيه آي”.
وقالت لـ”فرانس برس”: “عندما أقرأ هذه المحادثات ألاحظ تلاعبا وأساليب أخرى لا يمكن أن يلاحظها طفل في الـ14 من عمره”، وأضافت: “كان يعتقد أنه مغرم بها وأنه سيبقى معها بعد وفاته”.

خطر روبوتات الدردشة على الأطفال
وكانت وفاة سول عام 2024 الأولى في سلسلة من حالات الانتحار التي لاقت تفاعلا كبيرا، مما دفع الجهات الفاعلة في الذكاء الاصطناعي إلى اتخاذ إجراءات لطمأنة الأهل والسلطات.
وشاركت غارسيا إلى جانب عدد آخر من الأهل، في جلسة عقدت حديثا في مجلس الشيوخ الأميركي وتمحورت على مخاطر اعتبار الأطفال روبوتات الدردشة أصدقاء أو عشاقا.
وعززت شركة “أوبن إيه آي” المستهدفة بدعوى من عائلة فجعت أيضا بانتحار نجلها المراهق، رقابة الوالدين في أداة “تشات جي بي تي” “حتى تتمكن العائلات من تحديد ما هو الأنسب لهم”، بحسب متحدث باسمها.
وأكدت “كاركتر دوت إيه آي” من جانبها أنها عززت حماية القاصرين، من خلال “تحذيرات مرئية باستمرار”، تذكّر أن “الشخصية ليست شخصا حقيقيا”.
وقدمت الشركتان تعازيهما لعائلات الضحايا، لكن من دون الإقرار بأي مسؤولية.

سكاي نيوز

إنضم لقناة النيلين على واتساب

المصدر: موقع النيلين