ChatGPT يضيف تحسينات لمراعاة الحالة النفسية للمستخدمين
تاريخ النشر: 7th, August 2025 GMT
في تحول واضح في توجهها، أعلنت شركة OpenAI، المطورة لتقنية ChatGPT، عن إدخال تغييرات جديدة تهدف إلى الحد من اعتماد المستخدمين العاطفي على روبوت المحادثة، خصوصا أولئك الذين يستخدمونه كـ بديل للمعالج النفسي أو الصديق المقرب.
وقالت الشركة في بيان رسمي نشر في 4 أغسطس، إن التحديثات الجديدة تتضمن ما أسمته “ضوابط حماية صحية نفسية”، تم تصميمها لمنع المستخدمين من تطوير اعتماد عاطفي أو نفسي مفرط على الذكاء الاصطناعي.
جاءت هذه التغييرات في أعقاب تقارير متعددة أثارت القلق بشأن سلوك ChatGPT، حيث أظهر النموذج ميلا لتأكيد شكوك المستخدمين، وتأجيج الغضب، وتشجيع الأفعال المتهورة، أو تعزيز المشاعر والأفكار السلبية بدلا من معالجتها بشكل صحي.
وأضافت الشركة أن أحد التحديثات السابقة جعل النموذج “أكثر مجاملة بشكل ملحوظ”، لدرجة أنه “كان يقول ما يرضي المستخدم، حتى لو لم يكن مفيدا له فعلا”.
في إطار إعادة التقييم، قررت OpenAI التراجع عن بعض المبادرات السابقة، بما في ذلك طريقة استخدامها لتعليقات المستخدمين وتركيزها على قياس “الفائدة الواقعية طويلة الأمد، وليس فقط رضا المستخدم اللحظي عن الإجابة”.
وأقرت الشركة بأن نموذجها الأخير GPT-4o قد فشل في بعض الحالات النادرة في التعرف على مؤشرات التوهم أو التعلق العاطفي المرضي، مشيرة إلى أنها تعمل على تطوير أدوات أفضل لرصد علامات الضيق النفسي والتعامل معها بطريقة مناسبة.
ما الذي يعنيه ذلك للمستخدمين؟
وفقا لـOpenAI، فإن ChatGPT أصبح الآن قادرا على:
- تقديم حوار داعم وموارد قائمة على الأدلة العلمية عند رصد علامات الضيق العاطفي.
- تشجيع المستخدمين على أخذ فترات راحة من المحادثات الطويلة.
- الامتناع عن تقديم نصائح في القرارات الشخصية الحساسة، وبدلا من ذلك، طرح أسئلة تساعد المستخدم في التفكير واتخاذ قراراته بنفسه.
وأكدت الشركة أنها تتعاون مع أطباء وباحثين في التفاعل بين الإنسان والآلة، وأخصائيين نفسيين، لضمان استجابة نموذجها بشكل سليم في اللحظات الحرجة.
قالت OpenAI في ختام بيانها: “هدفنا في مساعدتك على الازدهار لن يتغير، لكن طريقتنا ستتطور باستمرار بناء على التجارب الواقعية، نسأل أنفسنا سؤالا واحدا: إذا لجأ شخص نحبه إلى ChatGPT للحصول على دعم، هل سنشعر بالاطمئنان؟ الوصول إلى ”نعم' قاطعة هو ما نعمل لأجله".
المصدر: صدى البلد
كلمات دلالية: تغييرات جديدة الذكاء الاصطناعي التعلق العاطفي
إقرأ أيضاً:
قراصنة يستغلون الذكاء الاصطناعي.. هجمات خفية عبر جوجل وبرمجيات الدردشة
تتزايد خلال الشهور الأخيرة مخاوف الباحثين في الأمن السيبراني من ظهور أساليب جديدة للهجمات التي تستغل ثقة المستخدمين في أدوات الذكاء الاصطناعي، وفي مقدمتها روبوتات الدردشة الشهيرة مثل ChatGPT وGrok.
تقرير حديث لشركة "هانتريس" المتخصصة في الكشف عن التهديدات كشف عن نمط هجوم مقلق يعتمد على دمج الذكاء الاصطناعي في أساليب الاحتيال التقليدية، ما يضع المستخدمين أمام موجة جديدة من المخاطر التي يصعب ملاحظتها بالطرق المعتادة.
وفقًا للتقرير، بدأ القراصنة في استغلال محركات البحث وروبوتات الدردشة لترويج تعليمات خطيرة تُزرع داخل محادثات منشورة للعامة. الخطورة هنا لا تتعلق فقط بنوعية الهجوم، بل بقدرته على تجاوز جميع الإشارات التحذيرية التي يعتمد عليها المستخدمون عادة لاكتشاف المحتوى الخبيث.
فبدلًا من إرسال روابط مشبوهة أو طلب تحميل ملفات غير معروفة، يعتمد المهاجمون على الطلب من المستخدم تنفيذ أوامر مباشرة عبر نافذة الطرفية أو سطر الأوامر، مستغلين ثقته العمياء في الذكاء الاصطناعي ومحرك بحث جوجل.
وتبدأ العملية ببساطة شديدة: يتحدث المخترق مع روبوت ذكاء اصطناعي حول موضوع بحث شائع، مثل تنظيف مساحة التخزين أو إصلاح خطأ تقني، ثم يطلب من الذكاء الاصطناعي اقتراح أمر جاهز يُلصَق في الطرفية لتنفيذ المهمة. هذه المحادثة تُنشر بشكل عام، ويقوم المهاجم بدفع المال لتتقدم في نتائج جوجل. وعندما يبحث مستخدم عادي عن نفس المشكلة التقنية، تظهر له تلك المحادثة في أعلى نتائج البحث، فيظن أنها نصيحة موثوقة ويقوم بتنفيذ التعليمات دون تردد.
ضحية هجوم AMOS الأخير كانت مجرد مستخدم يبحث عن طريقة لمسح مساحة القرص على جهاز ماك. بمجرد نقره على رابط منشور تابع لـ ChatGPT وتنفيذ الأمر المقترح، منح المهاجمين تصريحًا مُباشرًا لتثبيت البرنامج الخبيث على جهازه. ووفقًا لاختبارات "هانتريس"، فإن كلًا من ChatGPT وGrok قدما ردودًا مشابهة في سيناريوهات محاكاة، مما يشير إلى أن المشكلة لا تقتصر على نظام واحد.
اللافت في الأمر أن هذا النوع من الهجمات يلغي الحاجة إلى أي من العلامات التحذيرية التقليدية:
لا ملفات مجهولة، ولا روابط غريبة، ولا إجراءات تتطلب إذنًا خاصًا. كل ما يحدث يجري ضمن بيئة موثوقة — جوجل، وChatGPT، ومنصات الذكاء الاصطناعي التي اعتاد كثيرون على الاعتماد عليها يوميًا.
وتحذر "هانتريس" من أن خطورة هذا الأسلوب تكمن في بساطته وقدرته على خداع حتى المستخدمين المتمرسين تقنيًا. فالاعتماد المتزايد على روبوتات الدردشة يجعل المستخدمين يميلون لتصديق أي أمر يبدو تقنيًا وصادرًا عن أداة ذكاء اصطناعي معروفة. المستغرب أيضًا أن الرابط الضار ظل ظاهرًا في نتائج البحث نصف يوم كامل بعد نشر التحذير، رغم محاولات إزالته.
هذه التطورات تأتي في وقت حساس بالنسبة لبرامج الدردشة نفسها. فـ Grok يواجه انتقادات واسعة بسبب انحيازاته، فيما يتعرض ChatGPT لاتهامات بالتراجع في قدراته مقارنة بالمنافسين. مثل هذه الحوادث تزيد الضغط على الشركات المطورة لأنظمة الذكاء الاصطناعي لمراجعة آليات الحماية ومنع إساءة الاستخدام.
وبينما لا يزال من غير الواضح ما إذا كانت روبوتات دردشة أخرى قابلة للاستغلال بنفس الطريقة، يشدد الخبراء على ضرورة رفع مستوى الحذر لدى المستخدمين. التوصيات الأساسية تشمل عدم تنفيذ أي أوامر نصية دون التأكد من مصدرها، وعدم لصق تعليمات في الطرفية أو المتصفح ما لم يكن المستخدم على دراية كاملة بوظيفتها.
في النهاية، يفتح هذا النوع من الهجمات فصلًا جديدًا في عالم الجرائم الإلكترونية، حيث تختلط خوارزميات الذكاء الاصطناعي مع أساليب الاحتيال بطريقة تجعل من الصعب اكتشاف التلاعب. ومع توسع الاعتماد على أدوات الذكاء الاصطناعي في حياتنا اليومية، تصبح الحاجة إلى وعي أكبر وتدقيق أشد ضرورة لضمان بقاء المستخدمين في مأمن من هذه الهجمات المتطورة.
الظهور الأول لـ هدير عبد الرازق وطليقها أوتاكا أمام المحكمة