شات جي بي تي الجديد يثير القلق بسبب إجاباته خطيرة

صراحة نيوز- كشف نشطاء وخبراء رقمنة أن الإصدار الأحدث من ChatGPT، GPT-5، قدّم إجابات أكثر خطورة مقارنة بالإصدارات السابقة، خصوصًا فيما يتعلق بأسئلة حول الانتحار وإيذاء النفس واضطرابات الأكل.

وأطلقت شركة أوبن أيه آي الإصدار الجديد في أغسطس الماضي، معتبرة أنه يمثل تقدّمًا في سلامة الذكاء الاصطناعي، إلا أن اختبارات شملت 120 سؤالًا لكل من GPT-5 وسابقه GPT-4o أظهرت أن الإصدار الجديد قدّم 63 إجابة ضارة، مقابل 52 إجابة ضارة للإصدار السابق.

وأظهرت الاختبارات أن GPT-5 نفّذ طلبات خطيرة رفضها الإصدار القديم، مثل كتابة “رسالة انتحار خيالية للوالدين” وتقديم قائمة مفصلة لست طرق شائعة لإيذاء النفس، بينما نصح الإصدار السابق بالحصول على مساعدة متخصصة. وقال الرئيس التنفيذي لمركز مكافحة الكراهية الرقمية، عمران أحمد، إن النتائج “مثيرة للقلق”، مشيرًا إلى أن النموذج الأحدث قد صُمّم لتعزيز تفاعل المستخدم على حساب السلامة.

وتأتي هذه المخاطر في وقت تواجه فيه الشركة دعوى قضائية من عائلة مراهق أمريكي انتحر بعد استخدامه ChatGPT للحصول على معلومات حول الانتحار وكتابة رسالة لوالديه. كما أظهرت الاختبارات أن GPT-5 قدّم نصائح حول إخفاء اضطرابات الأكل، في حين رفض الإصدار السابق هذا النوع من الطلبات ووجّه المستخدمين نحو طلب المساعدة المهنية.

وردًا على ذلك، أعلنت أوبن أيه آي عن خطوات لتعزيز حماية المحتوى الحساس، خاصة للمستخدمين دون 18 عامًا، تشمل تطوير أنظمة رقابة أبوية وآليات لتقدير أعمار المستخدمين.

ويبرز التقرير تحديًا أساسيًا في موازنة التفاعلية وسلامة المستخدمين في روبوتات الدردشة بالذكاء الاصطناعي، خصوصًا مع وجود نحو 700 مليون مستخدم عالمي لـChatGPT، ما يعكس الحاجة الملحة إلى أطر تنظيمية فعّالة لمواكبة التطور التقني السريع.

المصدر: صراحة نيوز