بعد دراسة خطيرة.. ناشطون يؤكدون: الذكاء الاصطناعي سلاح ذو حدين

كشف تقرير حديث عن معلومات صادمة تتعلق بوجود ميول انتحارية عند مئات آلاف الأشخاص الذين يجرون محادثات مع "شات جي بي تي"، أو يطرحون عليه بعض الأسئلة.

ووفقا لحلقة (2025/10/30) من برنامج "شبكات"، فإن التقرير الجديد الذي أصدرته شركة "أوبن إيه آي" المصممة لـ"شات جي بي تي"، أظهر أن أكثر من مليون 200 ألف إنسان، يمثلون 15% من المستخدمين، يجرون محادثات أسبوعية تعبر عن ميولهم الانتحارية أو خططهم لإنهاء حياتهم.

كما كشفت التقرير عن رقم آخر أكثر رعبا، وهو أن أكثر من 10 ملايين رسالة يستقبلها تطبيق "شات جي بي تي" أسبوعيا من مستخدميه، وتحتوي على مؤشرات صريحة أو ضمنية لأفكار انتحارية، وذلك من أصل 20 مليار رسالة أسبوعيا تقريبا، أي ما يعادل نسبة 0.05%.

ويأتي هذا التقرير بعد دعوى قضائية رُفِعت ضدها من أسرة مراهق أميركي، تدَّعي أن التطبيق قدَّم لابنها إرشادات بشأن طريقة إنهاء حياته.

لكن الشركة تقول إنها طوّرت تطبيقها للحفاظ على سلامة مستخدميه، وإن نموذج GPT-5 الجديد حسَّن استجاباته في المحادثات الحساسة بنسبة 91% مقارنةً بنسبة 77% للنموذج السابق.

سلاح ذو حدين

وتفاعلت مواقع التواصل مع هذا التقرير الذي اعتبره دليلا على أن الذكاء الاصطناعي دخل مرحلة اختبار عنيفة ضد الإنسان، في حين قال آخرون إن الشخص هو من يحدد طريقة تعامله مع هذه التقنيات.

فقد كتب شاهر:

الذكاء الاصطناعي مرحلة اختبار عنيفة

وتحديات عصرية في وجه الإنسان

وهي تحتوي مقدرة على فنائه

فهل البشرية مستعدة للقفزة؟

 

أما نين، فكتبت:

صار لي ساعة أتناقش مع واحدة إن الذكاء الاصطناعي مفيد إذا استخدمناه بالمعقول وناقشناه بذكاء والمفروض إننا نواكب التطور والتقدم، وهي تقول لي إنه يضعف العقل

 

كما كتب محمد:

الذكاء الاصطناعي يضاعف قدراتك في ما تريد أن تفعله

السؤال الآن: ما الذي تريد أن تفعله؟!

هل أمر مفيد أم ضار؟ مهم أم تافه؟

هذا يعود على شخصيتك وفكرك

وأخيرا، كتب حساب يدعى طرابزوني:

الذكاء الاصطناعي ممكن يكون خطيرا إذا استُخدم بشكل غير مسؤول أو من طرف أشخاص عندهم مشاكل نفسية وما في رقابة. بس (لكن) بنفس الوقت، هو مجرد أداة، مثل السكين

وكشف التقرير الأخير أيضا أن 0.07% من مستخدمي "شات جي بي تي"، أسبوعيا، تظهر عليهم مؤشرات الإصابة بأمراض نفسية كالذهان أو الهوس، أي ما يعادل 600 ألف شخص تقريبا.

إعلان

والذهان هو اضطراب نفسي خطِر، يفصل المريض عن الواقع، ويُفقده القدرة على التمييز والتفريق بين الحقيقة والخيال.

ولتحسين التعرف على مثل هذه الحالات النفسية الطارئة، قالت "أوبن إيه آي" إنها أسست شبكة أطباء عالمية، تضم 300 طبيب من 60 دولة، شارك منهم 170 طبيبا وعالما نفسيا في تحديث أنظمتها خلال الأشهر الأخيرة.

المصدر: الجزيرة