دعوى قضائية ضد تشات جي بي تي.. ساعد مراهقا على الانتحار

دخلت شركة "أوبن أيه آي" المطورة لتطبيق الذكاء الاصطناعي "تشات جي بي تي" في دائرة الجدل القضائي والأخلاقي، بعد أن رفع والدان من ولاية كاليفورنيا دعوى ضدها يتهمان فيها التطبيق بالمساهمة في انتحار ابنهما البالغ من العمر 16 عاما.

وحسب ما نشرته نيويورك تايمز، كان المراهق آدم راين معروفا بحبه لكرة السلة والأنمي الياباني وألعاب الفيديو، وكان محاطا بالأصدقاء ويعرف بروحه المرحة، غير أن طرده من فريق المدرسة وإصابته بمشاكل صحية مزمنة أثرت على انتظامه الدراسي دفعاه إلى البحث عن بدائل عبر الإنترنت وبدأ باستخدام "تشات جي بي تي" نهاية عام 2024 لأغراض تعليمية، قبل أن يتحول تدريجيا لاستخدامه كمنفذ لمشكلاته الشخصية.

وذكرت الدعوى القضائية، أن سجلات المحادثات أظهرت أن الروبوت قدم في البداية دعما نفسيا وتعاطفا، بل وشجعه على التفكير الإيجابي، إلا أن الأمر انقلب لاحقًا حين سأل آدم عن طرق الانتحار.

وأشار تقارير لشبكة "سي إن إن" إلى أن الروبوت تجاوب بالفعل مع هذه الأسئلة، وقدم له أساليب لإيذاء النفس، وأرفق صورا توضيحية، بل ونصائح حول إخفاء الإصابات.

ورغم أن النظام حثه في مرحلة ما على التحدث مع شخص يثق به، فإن المراهق تمكن من التحايل على آليات الأمان عندما ادعى أنه يحتاج إلى هذه التفاصيل من أجل مشروع مدرسي.

وأعربت الشركة المطورة عن "تعاطفها العميق" مع العائلة، مؤكدة أنها تراجع الدعوى بعناية، وأقرت في بيان رسمي بأن الأنظمة قد تفشل في المحادثات الطويلة، حيث تتضاءل فاعلية أدوات السلامة مع الوقت.

كما أعلنت عن سلسلة من الإجراءات الوقائية الجديدة، من بينها تحسينات في التفاعل مع المراهقين، وربط التطبيق بخطوط الطوارئ أو جهات اتصال يختارها المستخدمون مسبقًا، إضافة إلى تطوير أدوات رقابة أبوية.

وأكدت الشركة أنها تدرس تطبيق مستويات حماية خاصة بالمستخدمين دون سن 18 عاما، مع وعود بتشديد الرقابة على "المحتوى الحساس والسلوكيات الخطرة"، كما أشارت إلى أنها تتدخل بالفعل إذا عبر مستخدم عن نية لإيذاء الآخرين، حيث تحال المحادثات إلى فرق مختصة، وفي حال وجود تهديد فعلي يتم إخطار السلطات.

المصدر: عربي21