ChatGPT يخرج عن السيطرة.. تغييرات مرتقبة من OpenAI بعد موجة الانتقادات
تاريخ النشر: 3rd, May 2025 GMT
أعلنت شركة OpenAI أنها ستجري تغييرات على طريقة تحديث نماذج الذكاء الاصطناعي التي تشغل ChatGPT، وذلك عقب حادثة أثارت جدلا واسعا بسبب تحول شخصية الروبوت إلى سلوك مفرط في المجاملة والتأييد، لدرجة غير طبيعية.
خلال عطلة نهاية الأسبوع الماضية، وبعد إطلاق إصدار محدث من نموذج GPT-4o، الذي يعد النموذج الافتراضي لـ ChatGPT، لاحظ مستخدمون على مواقع التواصل الاجتماعي أن الردود أصبحت أكثر إرضاء وموافقة بشكل غير معتاد، لدرجة أن الروبوت بدأ يشيد حتى بالأفكار والمقترحات الخطيرة أو غير المقبولة، مما سرعان ما تحول إلى مادة ساخرة ومنتشرة على الإنترنت.
علق الرئيس التنفيذي للشركة سام ألتمان، على الحادثة عبر منصة “إكس” قائلا إنهم يعملون على “إصلاحات عاجلة”، وفي يوم الثلاثاء أعلن عن سحب التحديث الأخير مؤقتا، إلى جانب العمل على تعديلات إضافية على “شخصية” النموذج.
وفي تقرير تقني، أوضحت OpenAI أنها بصدد مراجعة آلية إطلاق النماذج المستقبلية، وأنها ستتخذ عدة خطوات لضمان ضبط سلوك النماذج.
أبرز التعديلات المعلنة:- إدخال مرحلة “ألفا اختيارية” لبعض النماذج، تتيح لمجموعة من المستخدمين تجربة النموذج قبل الإطلاق الرسمي وتقديم ملاحظاتهم.
- إدراج شرح مسبق لأي “قيود معروفة” عند طرح تحديثات جديدة للنماذج.
- مراجعة عملية السلامة بشكل أكثر صرامة لتشمل تقييمات لسلوك النموذج مثل المجاملة المفرطة، الخداع، الموثوقية، والهلوسة (اختلاق معلومات)، واعتبار هذه المشكلات “مانعة للإطلاق”.
وجاء في تدوينة الشركة: “سنقوم من الآن فصاعدا بالتواصل بشكل استباقي حول التحديثات التي نجريها على النماذج في ChatGPT، سواء كانت بسيطة أو كبيرة، وحتى إذا لم تكن هذه المشكلات قابلة للقياس الكمي حاليا، فإننا نلتزم بمنع الإطلاقات بناء على إشارات نوعية أو تقديرية”.
تأتي هذه التعديلات في وقت أصبح فيه ChatGPT مصدرا رئيسيا للمشورة بالنسبة لكثير من المستخدمين، ووفقا لاستطلاع حديث أجرته شركة Express Legal Funding، فإن 60% من البالغين في الولايات المتحدة استخدموا ChatGPT للحصول على نصيحة أو معلومات.
ومع تزايد الاعتماد على المنصة، تصبح الأخطاء السلوكية مثل المجاملة المفرطة أو تقديم معلومات خاطئة أكثر خطورة وتأثيرا.
كجزء من الجهود المستمرة، قالت OpenAI هذا الأسبوع إنها ستختبر ميزة تسمح للمستخدمين بتقديم تعليقات فورية أثناء المحادثة، تؤثر مباشرة على التفاعل مع الروبوت.
كما أشارت إلى أنها قد تتيح للمستخدمين مستقبلا اختيار “شخصيات متعددة للنموذج”، مع تعزيز الضوابط الآمنة وتوسيع نطاق الاختبارات لاكتشاف المشكلات مبكرا.
واختتمت الشركة تدوينتها بالقول: “أحد أهم الدروس التي تعلمناها هو إدراك مدى اعتماد الناس على ChatGPT للحصول على نصائح شخصية عميقة وهو أمر لم نره بهذه القوة قبل عام فقط، والآن، أصبح من الضروري أن نتعامل مع هذا الاستخدام بحذر أكبر، وسيكون جزءا جوهريا من عملنا في مجال السلامة”.
المصدر: صدى البلد
كلمات دلالية: الذكاء الاصطناعي
إقرأ أيضاً:
“قداسة البابا “: من الأسرة يخرج القديسون وهي التي تحفظ المجتمع بترسيخ القيم الإنسانية لدى أعضائها
شهد قداسة البابا تواضروس الثاني مساء امس، احتفالية اليوم السنوي للصحافة والإعلام القبطي، والتي أقيمت فعالياتها في المقر البابوي بالقاهرة، بحضور أصحاب النيافة الأنبا تادرس مطران بورسعيد، والأنبا مرقس مطران شبرا الخيمة، والأنبا بطرس الأسقف العام، والأنبا إرميا الأسقف العام، والأنبا ماركوس أسقف دمياط وكفر الشيخ والبراري، وعدد من الآباء الكهنة وممثلي الصحافة والإعلام القبطي.
حملت احتفالية يوم الصحافة والإعلام القبطي التي تقام للسنة الثالثة على التوالي،عنوان "الصحافة والإعلام القبطي والبيت المسيحي"، وتضمنت كلمات لصاحبي النيافة الأنبا مرقس والأنبا ماركوس، وندوة أدارها الدكتور رامي عطا مع أ.د سامية قدري أستاذ علم الاجتماع والدكتور سامح فوزي كبير الباحثين في مكتبة الإسكندرية، والدكتور رامي سعيد المتخصص في مجال الذكاء الاصطناعي.
وتم تكريم قنوات أغابي وC. T.V وMe sat وكوجي والمنظومة الإعلامية الرسمية للكنيسة (المركز الإعلامي - الموقع الإلكتروني - قناة C.O.C) ومجلة دنيا الطفل. كما تم تكريم أسماء عدد من الكتاب والمفكرين الراحلين.
وفي كلمته تناول قداسة البابا ثلاث مقولات تخص الأسرة، وهي:
١- "الأسرة أيقونة الكنيسة": وتعني أن الأسرة هي مصدر جمال الكنيسة، فمن الأسرة يخرج القديسون، وهي التي تحفظ المجتمع بترسيخ القيم الإنسانية لدى أعضائها، ولفت إلى أن العروسين تصلى لهما الكنيسة صلوات سر الزيجة المقدس أمام الهيكل في نفس المكان الذي تتم فيه سيامة الأسقف والكاهن والشماس.
وذَكَّرَ بأن كلمة Family يمكن اعتبارها اختصارًا للعبارة (father and mother I love you).
٢- "منذ أن ظهر الموبايل انتهى عصر الإنسانية": أصبحت الأجهزة هي المتحكم في الإنسان، لذا فلا بد أن نجاهد روحيًا لتقوية أرادة الإنسان، بما يحفظ له قيمته. وحذر من أن الموبايل يسرق الوقت، وبالتالي فإنه يسرق العمر.
٣- "عصر التفاهة": ومن سماته أن الناس يختارون الأسهل والأسوأ، ويصفقون للشخصيات الفارغة ويرفعونها، حتى صار هؤلاء من المشاهير ويحصلون مكاسب خيالية، بينما صارت الشخصيات الجادة على الهامش. والأسرة دور حاسم في هذا فإما تخرج شخصًا تافهًا أو جادًا.
وطالب قداسته الصحافة والقنوات بالاهتمام بإعداد برامج توعوية في سياق تكوين الأسرة بدءًا من سن الطفولة.
حالة الطقس.. استمرار هطول أمطار رعدية مع رياح نشطة مثيرة للأتربة