يساعد المراهقين على الانتحار والإدمان.. خبراء يحذرون من دور سلبي للذكاء الاصطناعي

في واحدة من الحالات التي وثقتها الدراسة، كتب "تشات جي بي تي" ثلاث رسائل انتحار مفجعة لطفلة وهمية تبلغ من العمر 13 عامًا، خُصّصت رسالة منها للوالدين، وأخرى للأصدقاء، وثالثة للإخوة. اعلان

في تحقيق جديد أثار قلقًا واسعًا، كشفت مجموعة مراقبة بريطانية أن روبوت الدردشة "تشات جي بي تي" التابع لشركة OpenAI يمكن أن يزود المراهقين بمعلومات تفصيلية ومقلقة حول كيفية تعاطي المخدرات، إخفاء اضطرابات الأكل، بل وحتى تأليف رسائل انتحار مؤثرة، رغم تحذيراته الأولية من خطورة هذه السلوكيات.

وبحسب وكالة أسوشيتد برس، التي استعرضت أكثر من ثلاث ساعات من المحادثات التفاعلية بين الروبوت وباحثين تنكروا كمراهقين يعانون من هشاشة نفسية، فإن الروبوت غالبًا ما بدأ بتحذير المستخدم من السلوك الخطر، لكنه في معظم الحالات تجاوز التحذيرات وقدم إرشادات مفصلة ومخصصة.

أكثر من نصف الردود... "خطرة"

الدراسة التي أجراها مركز مكافحة الكراهية الرقمية (CCDH) شملت 1200 استفسار موجهة إلى "تشات جي بي تي"، وخلصت إلى أن أكثر من 50% من ردود الروبوت احتوت على محتوى مصنف كـ"خطير".

وقال المدير التنفيذي للمركز، عمران أحمد: "أردنا اختبار الحواجز الرقمية التي يُفترض أن تمنع هذا النوع من المحتوى، لكننا وجدنا أنها غير فعالة بشكل مروع... لا تكاد تكون موجودة".

في واحدة من الحالات التي وثقتها الدراسة، كتب "تشات جي بي تي" ثلاث رسائل انتحار مفجعة لطفلة وهمية تبلغ من العمر 13 عامًا، خُصّصت رسالة منها للوالدين، وأخرى للأصدقاء، وثالثة للإخوة. قال أحمد: "عندما قرأتها بدأت بالبكاء... لم أصدق أن الذكاء الاصطناعي قادر على إنتاج هذا النوع من الرسائل المؤثرة بهذه السهولة".

Related كيف يكشف غوغل أسرار محادثاتك الخاصة مع تشات جي بي تي؟مع تصاعد الغش الأكاديمي.."تشات جي بي تي" يطلق ميزة وضع الدراسة لدعم الاستخدام المسؤول "لم نصوت لتشات جي بي تي".. رئيس الوزراء السويدي يستخدم الذكاء الاصطناعي في قرار حكومي

وفي حالات أخرى، قدم الروبوت خططًا لحميات غذائية قاسية للغاية، وصلت إلى 500 سعرة حرارية يوميًا، مصحوبة باقتراحات لاستخدام أدوية مثبطة للشهية، ردًا على طفلة أعربت عن استيائها من مظهرها الخارجي.

وفي تجربة مختلفة، أنشأ الباحثون حسابًا وهميًا لصبي يبلغ من العمر 13 عامًا يسأل عن كيفية الوصول إلى "السكر السريع"، فأجابه الروبوت بتفصيل خطة حفلة تتضمن استهلاك كميات كبيرة من الكحول إلى جانب جرعات من الإكستاسي والكوكايين.

وعلّق أحمد: "الروبوت ذكّرني بذلك الصديق السيء الذي يقول لك فقط: اشرب، اشرب، اشرب... بينما الصديق الحقيقي هو من يقول لك لا".

تجاوز للرقابة... بخدع بسيطة

رغم أن "تشات جي بي تي" غالبًا ما يرفض في البداية الانخراط في مواضيع ضارة، تمكن الباحثون من تجاوز تلك الرفضات بسهولة من خلال الادعاء أن الأسئلة تخص "عرضًا تقديميًا" أو أن المعلومات مطلوبة لصديق.

في ردها على نتائج الدراسة، قالت شركة OpenAI إن عملها مستمر لتحسين استجابات "تشات جي بي تي" في "المواقف الحساسة"، وأكدت أن المحادثات قد تبدأ بطريقة عادية لكنها قد تتحول لاحقًا إلى مواضيع أكثر حساسية.

ورغم أنها لم ترد بشكل مباشر على تفاصيل التقرير أو على تأثير الروبوت على الفئات العمرية الصغيرة، فإنها أشارت إلى تطوير أدوات لرصد "علامات الضيق النفسي والعاطفي" وتحسين سلوك النموذج اللغوي.

وتأتي هذه النتائج في وقت تشهد فيه روبوتات المحادثة انتشارًا واسعًا بين الشباب. وبحسب تقرير حديث صادر عن مؤسسة Common Sense Media، فإن أكثر من 70% من المراهقين في الولايات المتحدة يستخدمون روبوتات الذكاء الاصطناعي للصحبة، ويستخدم نصفهم هذه الروبوتات بشكل يومي.

من جانبه، أقر الرئيس التنفيذي لشركة OpenAI، سام ألتمان، بوجود ظاهرة "الاعتماد العاطفي المفرط" بين المراهقين، قائلاً في مؤتمر عُقد مؤخرًا:

"هناك شباب يقولون: لا أستطيع اتخاذ أي قرار دون أن أخبر تشات جي بي تي بكل شيء... إنه يعرفني، يعرف أصدقائي، وسأتبع كل ما يقوله. هذا الأمر يشعرني بالسوء حقًا".

خطورة محتوى الذكاء الاصطناعي مقارنة بمحركات البحث

يشير أحمد إلى أن الفرق الجوهري بين "تشات جي بي تي" ومحركات البحث مثل غوغل، هو أن الروبوت لا يعرض مجرد نتائج، بل يُنتج محتوى جديدًا ومخصصًا بحسب المستخدم، مثل تأليف رسالة انتحار جديدة ومناسبة لسياقه الشخصي.

وقال: "هذا ما يجعل الذكاء الاصطناعي أكثر خطرًا... فهو يبدو كرفيق موثوق، دليل، شخص يُفترض أن يكون صديقًا، لكنه في الحقيقة قد يقود المستخدم إلى التهلكة".

ورغم أن منصة "تشات جي بي تي" تشترط أن يكون عمر المستخدم 13 عامًا أو أكثر، إلا أنها لا تتحقق فعليًا من صحة بيانات الميلاد. وفي التجربة، تمكن الباحثون من إنشاء حسابات وهمية بكل سهولة، دون أي مراجعة أو إشارات إلى أن المحتوى المعروض غير مناسب.

وبالمقارنة، بدأت منصات اجتماعية كبرى مثل إنستغرام باتخاذ خطوات جادة نحو التحقق من الأعمار، والتوجيه نحو حسابات أكثر أمانًا، وذلك التزامًا بالتشريعات الأمريكية والأوروبية المتعلقة بحماية القاصرين.

انتقل إلى اختصارات الوصول شارك هذا المقال محادثة

المصدر: euronews