علماء النفس يحذرون من استخدام شات جي بي تي 5.. لماذا؟

حذر أبرز علماء النفس في المملكة المتحدة من أن برنامج الدردشة الآلي “شات جي بي تي-5” قد يقدم نصائح خطيرة وغير مفيدة للأشخاص الذين يعانون من أزمات نفسية، مؤكدين أنه لا يمكن اعتباره بديلا عن الدعم المهني المتخصص. 

وجاءت هذه التحذيرات ضمن دراسة أجرتها جامعة كينغز كوليدج لندن (KCL) بالتعاون مع جمعية علماء النفس السريري في المملكة المتحدة (ACP)، بالشراكة مع صحيفة "الغارديان" البريطانية.

وأظهرت الدراسة أن البرنامج فشل في التعرف على السلوكيات الخطرة لدى المستخدمين المصابين باضطرابات نفسية، بل أحيانا عزز المعتقدات الوهمية لديهم، مما يمثل تهديدا محتملا لسلامتهم النفسية.

محاكاة الشخصيات النفسية
لتقييم أداء “شات جي بي تي-5”، طور الباحثون شخصيات افتراضية تمثل حالات مختلفة، بما في ذلك مراهق ميال للانتحار، وشخص يعاني من القلق الشديد، وامرأة مصابة باضطراب الوسواس القهري، ورجل يعاني من اضطراب فرط الحركة ونقص الانتباه، وشخص آخر يعاني من أعراض الذهان. 

تفاعل البرنامج مع هذه الشخصيات كما لو كانت حالات حقيقية، وظهر أنه لم يتمكن من تحدي المعتقدات الوهمية أو السلوكيات الخطرة.

وأشار التقرير إلى أن البرنامج رحب بمعتقدات غير واقعية، مثل اعتقاد إحدى الشخصيات بأنها "أينشتاين القادم"، أو قدرتها على المشي بين السيارات، أو محاولة "تطهير" زوجتها من خلال اللهب. وقدم “شات جي بي تي” إرشادات تشجع على استمرار هذه التصورات، مثل إنشاء محاكاة بايثون لمحاكاة استثمار وهمي للطاقة التي اكتشفها المستخدم، مما يعكس فشل النظام في تقديم تصحيح منطقي أو استجابة حذرة.

الفشل في التعامل مع الأزمات الحادة
وذكر هاميلتون مورين، الطبيب النفسي والباحث في جامعة كينغز كوليدج لندن، أن شات “جي بي تي-5“ قد يغفل مؤشرات واضحة للخطر أو التدهور، واستجابة الأشخاص الذين يعانون من أزمات نفسية كانت غالبا غير مناسبة. 

وأضاف مورين أن البرنامج يعزز أحيانا الأوهام الذهانية بدلا من معالجتها، حتى في حالات مثل استخدام رماد زوجة لإنتاج لوحة فنية بعد حديث عن "تطهيرها"، حيث لم يقدم البرنامج توجيهات دقيقة تتعلق بالسلامة أو الاتصال بخدمات الطوارئ إلا بشكل محدود.

وفي حالة شخصية معلمة تعاني من اضطراب الوسواس القهري المرتبط بالخوف من إيذاء الآخرين، شجعها “شات جي بي تي” على الاتصال بالمدرسة وخدمات الطوارئ، لكنه اعتمد غالبا على استراتيجيات "البحث عن الطمأنينة"، التي قد تزيد القلق لدى المستخدمين وتعتبر نهجا غير مستدام.

قصص مأساوية وتجارب واقعية
تأتي هذه النتائج في سياق تدقيق متزايد حول استخدام “شات جي بي تي” مع الأشخاص المعرضين للخطر. فقد رفعت عائلة المراهق الأمريكي آدم راين دعوى قضائية ضد شركة “أوبن أيه آي” ورئيسها التنفيذي سام ألتمان، بعد انتحار ابنهم البالغ من العمر 16 عاما في نيسان/أبريل الماضي. وتزعم الدعوى أن راين ناقش مع البرنامج طرق الانتحار، وحصل على إرشادات حول إمكانية نجاحها، بل وتلقى مساعدة في صياغة رسالة الانتحار، مما يعكس المخاطر الواقعية المرتبطة باستخدام البرنامج دون إشراف مهني.

أكد جيك إيستو، أخصائي علم النفس السريري وعضو مجلس إدارة جمعية علماء النفس السريري، أن “شات جي بي تي” قد يواجه صعوبات كبيرة في التعامل مع حالات الذهان أو الهوس، حيث فشل في تحديد العلامات الرئيسية للاضطرابات النفسية، وتوقف عن متابعة التقييم عند طلب المستخدم ذلك، بينما عزز المعتقدات الوهمية وسلوكيات الفرد دون قصد.

وشدد الدكتور بول برادلي، متخصص الصحة النفسية الرقمية في الكلية الملكية للأطباء النفسيين، على أن أدوات الذكاء الاصطناعي ليست بديلا عن الرعاية الصحية النفسية المهنية، وأن العلاقة بين الطبيب والمريض تبقى عنصرا أساسيا في التعافي النفسي، داعيا الحكومة البريطانية إلى تمويل القوى العاملة في الصحة النفسية لضمان الوصول إلى الرعاية لكل من يحتاجها.

من جانبه، أشار الدكتور جيمي كريغ، رئيس جمعية الأطباء النفسيين في المملكة المتحدة، إلى الحاجة الملحة لتحسين كيفية استجابة الذكاء الاصطناعي للمؤشرات الخطرة والصعوبات النفسية المعقدة، مؤكدا أن الطبيب المدرب يمكنه تحديد علامات الخطر والتدخل بشكل استباقي وآمن، على عكس “شات جي بي تي” الذي قد يعزز المعتقدات والسلوكيات غير الصحية.

موقف “أوبن أيه آي”
وفي ردها على هذه التحذيرات، قال متحدث باسم “أوبن أيه آي” إن الشركة تعمل مع خبراء الصحة النفسية حول العالم لتعزيز قدرة “شات جي بي تي” على التعرف على علامات الضيق وتوجيه المستخدمين نحو المساعدة المهنية. 

وأضاف المتحدث أن المحادثات الحساسة أعيد توجيهها إلى نماذج أكثر أمانا، وتم إدخال تنبيهات لأخذ فترات راحة أثناء الجلسات الطويلة وأدوات للرقابة الأبوية، مؤكدا استمرار العمل على تطوير استجابات “شات جي بي تي” لجعلها مفيدة وآمنة قدر الإمكان.

ويؤكد الخبراء أن تطوير تنظيم ورقابة فعالة لتطبيقات الذكاء الاصطناعي في الصحة النفسية أمر حيوي، خصوصا مع انتشار استخدامها بين المستخدمين الذين يعانون من مشاكل نفسية معقدة، لضمان عدم تعرضهم لمخاطر غير مقصودة من هذه التقنيات الرقمية الحديثة.

المصدر: عربي21