ChatGPT يضيف تحسينات لمراعاة الحالة النفسية للمستخدمين
تاريخ النشر: 7th, August 2025 GMT
في تحول واضح في توجهها، أعلنت شركة OpenAI، المطورة لتقنية ChatGPT، عن إدخال تغييرات جديدة تهدف إلى الحد من اعتماد المستخدمين العاطفي على روبوت المحادثة، خصوصا أولئك الذين يستخدمونه كـ بديل للمعالج النفسي أو الصديق المقرب.
وقالت الشركة في بيان رسمي نشر في 4 أغسطس، إن التحديثات الجديدة تتضمن ما أسمته “ضوابط حماية صحية نفسية”، تم تصميمها لمنع المستخدمين من تطوير اعتماد عاطفي أو نفسي مفرط على الذكاء الاصطناعي.
جاءت هذه التغييرات في أعقاب تقارير متعددة أثارت القلق بشأن سلوك ChatGPT، حيث أظهر النموذج ميلا لتأكيد شكوك المستخدمين، وتأجيج الغضب، وتشجيع الأفعال المتهورة، أو تعزيز المشاعر والأفكار السلبية بدلا من معالجتها بشكل صحي.
وأضافت الشركة أن أحد التحديثات السابقة جعل النموذج “أكثر مجاملة بشكل ملحوظ”، لدرجة أنه “كان يقول ما يرضي المستخدم، حتى لو لم يكن مفيدا له فعلا”.
في إطار إعادة التقييم، قررت OpenAI التراجع عن بعض المبادرات السابقة، بما في ذلك طريقة استخدامها لتعليقات المستخدمين وتركيزها على قياس “الفائدة الواقعية طويلة الأمد، وليس فقط رضا المستخدم اللحظي عن الإجابة”.
وأقرت الشركة بأن نموذجها الأخير GPT-4o قد فشل في بعض الحالات النادرة في التعرف على مؤشرات التوهم أو التعلق العاطفي المرضي، مشيرة إلى أنها تعمل على تطوير أدوات أفضل لرصد علامات الضيق النفسي والتعامل معها بطريقة مناسبة.
ما الذي يعنيه ذلك للمستخدمين؟
وفقا لـOpenAI، فإن ChatGPT أصبح الآن قادرا على:
- تقديم حوار داعم وموارد قائمة على الأدلة العلمية عند رصد علامات الضيق العاطفي.
- تشجيع المستخدمين على أخذ فترات راحة من المحادثات الطويلة.
- الامتناع عن تقديم نصائح في القرارات الشخصية الحساسة، وبدلا من ذلك، طرح أسئلة تساعد المستخدم في التفكير واتخاذ قراراته بنفسه.
وأكدت الشركة أنها تتعاون مع أطباء وباحثين في التفاعل بين الإنسان والآلة، وأخصائيين نفسيين، لضمان استجابة نموذجها بشكل سليم في اللحظات الحرجة.
قالت OpenAI في ختام بيانها: “هدفنا في مساعدتك على الازدهار لن يتغير، لكن طريقتنا ستتطور باستمرار بناء على التجارب الواقعية، نسأل أنفسنا سؤالا واحدا: إذا لجأ شخص نحبه إلى ChatGPT للحصول على دعم، هل سنشعر بالاطمئنان؟ الوصول إلى ”نعم' قاطعة هو ما نعمل لأجله".
المصدر: صدى البلد
كلمات دلالية: تغييرات جديدة الذكاء الاصطناعي التعلق العاطفي
إقرأ أيضاً:
"شات جي بي تي" يتجاوز اختبار التحقق من الروبوتات
صفا
استطاع روبوت "شات جي بي تي" اجتياز اختبار الروبوتات عبر محاكاة التصرفات البشرية في التحكم بأجهزة الحواسيب، وذلك باستخدام النسخة الأحدث من الروبوت والاعتماد على "شات جي بي تي إيجنت"، حسب تقرير لموقع "آرس تكنكيا" (Ars Technica) التقني.
وتختلف أداة "شات جي بي تي إيجنت" بشكل كبير عن "شات جي بي تي" المعتاد، إذ يحصل على المتصفح الخاص به، ويستطيع من خلاله زيارة مواقع الإنترنت المختلفة والتفاعل معها في بيئة مغلقة تتحكم وسط نظام التشغيل الخاص به.
ويستطيع المستخدمون التعامل مع الروبوت والمنظومة الخاصة به من خلال نافذة "شات جي بي تي" المعتادة، وذلك من أجل تزويده بالأوامر اللازمة ومراقبة تصرفاته في هذه البيئة المغلقة.
ورغم أن اختبار الروبوتات الخاص بمنصة "كلاود فلير" (Cloudflare) لتأمين الإنترنت مصمم خصيصا لتفادي مثل هذه المواقف فإن "شات جي بي تي إيجنت" تمكن من تخطيه بسهولة منقطعة النظير أدهشت المستخدم الذي كان يراقب ما يحدث من خلال واجهة الأداة.
ثم قام المستخدم بمشاركة صورة لقطة شاشة للروبوت بعد أن تمكن من تخطي الاختبار، وتابع عمله بشكل طبيعي دون التوقف عنه، إذ وصف النموذج ما يفعله، موضحا أنه يضغط على زر الاختبار حتى يتأكد الموقع بأنه مستخدم حقيقي وليس روبوتا.
تعتمد اختبارات الروبوتات الموجودة في المواقع -والتي تقدمها شركات مثل "كابتشا" أو "كلاود فلير" وغيرهما من شركات تأمين الإنترنت- على آليات مختلفة، ولكن أبرزها هو الصندوق الحواري للتأكد أن المستخدم ليس روبوتا.
وبينما يبدو أن هذا الاختبار بسيط في آلية عمله لكنه من الاختبارات التي يصعب على الروبوتات التقليدية اجتيازها، وذلك لأنه يدرس سلوك المستخدم في تحريك مؤشر الحاسوب للضغط على الزر بدل الضغط التلقائي عليه في حالة الروبوتات، فضلا عن مجموعة أخرى من العوامل المختلفة، بما فيها سجل التصفح والعنوان وغيرهما.
وبسبب هذه الآلية ذاتها تمكن روبوت "شات جي بي تي إيجنت" من اجتياز الاختبار، لأنه في النهاية حرك مؤشر الفأرة بآلية تشبه الطريقة التي يتحرك بها البشر، فضلا عن أن الروبوت يستخدم المتصفح الخاص به.
ويعني ذلك أن الاختبار صدّق فعلا أن "شات جي بي تي إيجنت" هو مستخدم بشري حقيقي تماما يحاول زيارة الموقع والاستفادة منه، لذلك تمكن الروبوت من اجتيازه بشكل آمن.
وتهدف هذه الاختبارات إلى منع الروبوتات والبرمجيات الخبيثة من الوصول إلى المواقع، ورغم ذلك فقد حدث في السابق أن تمكن الروبوت من تجاوز الاختبار والوصول إلى الموقع، لذا طورت الشركات آلية الاختبار وأضافت بعض المعايير.
وتسبب هذا الأمر في سباق بين من يقوم باختبارات التحقق ومن يعمل على تطوير الروبوتات والبرمجيات المختلفة، وبينما لم يكن متصفح "أوبن إيه آي" الاختباري -الذي ظهر في يناير/كانون الثاني الماضي قادرا على تخطي هذه الاختبارات- لكن النسخة الأحدث من "شات جي بي تي إيجنت" كانت قادرة.
ويترك هذا الأمر الباب متاحا أمام مطوري اختبارات الروبوتات لتطوير اختبارات أكثر صعوبة لا يمكن لنماذج الذكاء الاصطناعي المتطورة اجتيازها بهذه السهولة.
وزير الإعلام اللبناني: الحكومة تقر بسط سلطة الدولة وحصر السلاح تمهيدًا لترسيم الحدود مع إسرائيل