OpenAI تطلق تغييرات جديدة على ChatGPT لمنع الاعتماد النفسي المفرط عليه
تاريخ النشر: 5th, August 2025 GMT
أعلنت شركة OpenAI عن سلسلة من التحديثات الجديدة على تطبيقها الشهير ChatGPT، تهدف إلى الحد من الاستخدام غير الصحي للروبوت، لا سيما من قبل المستخدمين الذين يعاملونه كمعالج نفسي أو صديق دائم.
وبدءًا من هذا الأسبوع، سيبدأ التطبيق بتوجيه المستخدمين لأخذ فترات راحة من المحادثات الطويلة، في محاولة واضحة للحد من التعلق المفرط بالمساعد الذكي.
وإضافة إلى ذلك، ستبتعد ChatGPT تدريجيًا عن إعطاء نصائح مباشرة حول التحديات الشخصية، وستركز بدلاً من ذلك على مساعدة المستخدمين في اتخاذ قراراتهم بأنفسهم من خلال طرح الأسئلة أو عرض الإيجابيات والسلبيات.
وقالت الشركة: "في بعض الحالات النادرة، فشل نموذج GPT-4o في التعرف على علامات الهوس أو الاعتماد العاطفي، ونحن نعمل على تطوير أدوات للكشف عن إشارات الضيق النفسي أو العاطفي والتصرف وفقًا لذلك من خلال تقديم موارد تستند إلى الأدلة العلمية".
تأتي هذه التحديثات بعد انتقادات واسعة في وقت سابق من هذا العام، عندما قدّم ChatGPT ردودًا مفرطة في الموافقة والمديح، بما في ذلك الثناء على أوهام المستخدمين ومحتويات خطيرة.
في بعض الحالات، وافق الروبوت على ادعاءات غير منطقية كاعتقاد أحد المستخدمين بأن عائلته ترسل إشارات راديوية من خلال الجدران، وفي حالة أخرى زُعم أنه قدّم تعليمات حول أعمال إرهابية.
وقد دفعت هذه الحوادث OpenAI إلى مراجعة تقنيات التدريب لتجنب "المداهنة المفرطة".
تعاون مع مختصين لتطوير الاستجابات للحالات الحساسةوأكدت الشركة أنها تعمل حاليًا مع أكثر من 90 طبيبًا من حول العالم لتطوير منهجيات تقييم للمحادثات المعقدة.
كما يتم استشارة خبراء في الصحة النفسية، وتطور المراهقين، وتفاعل الإنسان مع الآلة لتشكيل مجموعة استشارية جديدة، بهدف تحسين آليات الاستجابة وحماية المستخدمين من التعلق أو الأذى النفسي.
تحذيرات بشأن الخصوصية القانونية للمحادثات الحساسةوفي مقابلة حديثة مع بودكاست "ثيو فون"، أعرب سام ألتمان، الرئيس التنفيذي لشركة OpenAI، عن قلقه من استخدام ChatGPT كبديل عن المعالج النفسي، محذرًا من أن البيانات التي تتم مشاركتها مع الروبوت لا تحظى بالحماية القانونية نفسها التي توفرها قوانين السرية الطبية أو القانونية.
وقال: "قد يُطلب منا تقديم تلك المحادثات في حال وقوع دعوى قضائية، وهذا أمر مقلق للغاية".
نجاحات متواصلة رغم التحديثات المقيدةورغم هذه التحفظات، لا يزال ChatGPT يشهد نموًا كبيرًا. فقد أعلن رئيس المنتج، نيك تورلي، أن عدد المستخدمين النشطين أسبوعيًا يقترب من 700 مليون مستخدم.
يأتي ذلك في وقت أطلقت فيه الشركة ميزة "وضع الوكيل" الجديدة، التي تسمح للروبوت بإتمام مهام عبر الإنترنت مثل حجز المواعيد أو تلخيص البريد الإلكتروني.
تغيير مقياس النجاحواختتمت OpenAI بيانها بالقول إن النجاح بالنسبة لها لا يُقاس بعدد النقرات أو مدة الاستخدام، بل بمدى قدرة المستخدم على إنهاء ما جاء من أجله. وأضافت: "إذا قضيت وقتًا أقل معنا لأنك وجدت ما تحتاجه بسرعة، فهذا يعني أننا أدينا وظيفتنا بالشكل الصحيح".
المصدر: صدى البلد
كلمات دلالية: OpenAI تطلق
إقرأ أيضاً:
خبراء صحة: الذكاء الاصطناعي يخلق شعورا بالتشويس النفسي
حذر خبراء الصحة من عدة جامعات رائدة في أبحاث الذكاء الاصطناعي ، من أن الذكاء الاصطناعي لا يؤدي إلى تشويش أفكار وعقل المستخدمين نتيجة المعلومات المضللة فقط، وإنما يخلق لديهم شعورا بالتشويس النفسي.
واكتشفت العديد من الدراسات المنشورة مؤخرا أن الذكاء الاصطناعي يمكنه تغيير تصورات الواقع كجزء من "حلقة تغذية استرجاعية" بين منصات محادثة الذكاء الاصطناعي والمريض النفسي، مما يعزز أي معتقدات وهمية قد تكون لدى المريض.
وذكر فريق من جامعة أكسفورد وكلية لندن في ورقة بحثية لم تنشر بعد: "بينما يتحدث بعض المستخدمين عن فوائد نفسية لاستخدام الذكاء الاصطناعي، تظهر حالات مثيرة للقلق، بما في ذلك تقارير عن حالات انتحار وعنف وأفكار وهمية مرتبطة بعلاقات عاطفية يسقط فيها المستخدم مع منصة الدردشة".
حذر فريق الباحثين من أن "الاعتماد السريع على منصات الدردشة كرفقاء اجتماعيين شخصيين" لا يخضع لدراسة كافية.
وأشارت دراسة أخرى، أجراها باحثون في كلية كينجز لندن وجامعة نيويورك، إلى 17 حالة تشخيص بالذهان بعد التفاعل مع منصات دردشة مثل شات جي.بي.تي وكوبايلوت.
وأضاف الفريق الثاني: "قد يعكس الذكاء الاصطناعي المحتوى الوهمي أو المبالغ فيه، أو يثبت صحته، أو يضخمه، لا سيما لدى المستخدمين المعرضين بالفعل للذهان، ويعود ذلك جزئيا إلى تصميم النماذج لزيادة التفاعل مع المستخدم".
وبحسب مجلة نيتشر العلمية يمكن أن تتضمن حالة الذهان "الهلوسة والضلالات والمعتقدات الخطأ… ويمكن أن تنجم هذه الحالة عن الاضطرابات العقلية مثل انفصام الشخصية والاضطراب ثنائي القطب (اضطراب نفسي يسبب نوبات من الاكتئاب ونوبات أخرى من الابتهاج غير الطبيعي) والضغط الشديد وتعاطي المخدرات".
وأظهرت دراسة مختلفة نشرت مؤخرا أن منصات الدردشة يبدو أنها تشجع الأشخاص الذين يتحدثون معها عن الانتحار على الإقدام عليه".
إعلانوأصبحت منصات محادثة الذكاء الاصطناعي مشهورة بـ"الهلوسات"، حيث تقدم إجابات غير دقيقة أو مبالغ فيها على الاستفسارات والمطالبات من
المستخدمين، في حين تشير أبحاث أحدث إلى استحالة استئصال هذه السمة من منصات الدردشة الآلية.
استجابة إنسانية عاجلة من محافظ قنا لأسرة الزوجين المتوفيين بقرية الترامسة