ChatGPT يخرج عن السيطرة.. تغييرات مرتقبة من OpenAI بعد موجة الانتقادات
تاريخ النشر: 3rd, May 2025 GMT
أعلنت شركة OpenAI أنها ستجري تغييرات على طريقة تحديث نماذج الذكاء الاصطناعي التي تشغل ChatGPT، وذلك عقب حادثة أثارت جدلا واسعا بسبب تحول شخصية الروبوت إلى سلوك مفرط في المجاملة والتأييد، لدرجة غير طبيعية.
خلال عطلة نهاية الأسبوع الماضية، وبعد إطلاق إصدار محدث من نموذج GPT-4o، الذي يعد النموذج الافتراضي لـ ChatGPT، لاحظ مستخدمون على مواقع التواصل الاجتماعي أن الردود أصبحت أكثر إرضاء وموافقة بشكل غير معتاد، لدرجة أن الروبوت بدأ يشيد حتى بالأفكار والمقترحات الخطيرة أو غير المقبولة، مما سرعان ما تحول إلى مادة ساخرة ومنتشرة على الإنترنت.
علق الرئيس التنفيذي للشركة سام ألتمان، على الحادثة عبر منصة “إكس” قائلا إنهم يعملون على “إصلاحات عاجلة”، وفي يوم الثلاثاء أعلن عن سحب التحديث الأخير مؤقتا، إلى جانب العمل على تعديلات إضافية على “شخصية” النموذج.
وفي تقرير تقني، أوضحت OpenAI أنها بصدد مراجعة آلية إطلاق النماذج المستقبلية، وأنها ستتخذ عدة خطوات لضمان ضبط سلوك النماذج.
أبرز التعديلات المعلنة:- إدخال مرحلة “ألفا اختيارية” لبعض النماذج، تتيح لمجموعة من المستخدمين تجربة النموذج قبل الإطلاق الرسمي وتقديم ملاحظاتهم.
- إدراج شرح مسبق لأي “قيود معروفة” عند طرح تحديثات جديدة للنماذج.
- مراجعة عملية السلامة بشكل أكثر صرامة لتشمل تقييمات لسلوك النموذج مثل المجاملة المفرطة، الخداع، الموثوقية، والهلوسة (اختلاق معلومات)، واعتبار هذه المشكلات “مانعة للإطلاق”.
وجاء في تدوينة الشركة: “سنقوم من الآن فصاعدا بالتواصل بشكل استباقي حول التحديثات التي نجريها على النماذج في ChatGPT، سواء كانت بسيطة أو كبيرة، وحتى إذا لم تكن هذه المشكلات قابلة للقياس الكمي حاليا، فإننا نلتزم بمنع الإطلاقات بناء على إشارات نوعية أو تقديرية”.
تأتي هذه التعديلات في وقت أصبح فيه ChatGPT مصدرا رئيسيا للمشورة بالنسبة لكثير من المستخدمين، ووفقا لاستطلاع حديث أجرته شركة Express Legal Funding، فإن 60% من البالغين في الولايات المتحدة استخدموا ChatGPT للحصول على نصيحة أو معلومات.
ومع تزايد الاعتماد على المنصة، تصبح الأخطاء السلوكية مثل المجاملة المفرطة أو تقديم معلومات خاطئة أكثر خطورة وتأثيرا.
كجزء من الجهود المستمرة، قالت OpenAI هذا الأسبوع إنها ستختبر ميزة تسمح للمستخدمين بتقديم تعليقات فورية أثناء المحادثة، تؤثر مباشرة على التفاعل مع الروبوت.
كما أشارت إلى أنها قد تتيح للمستخدمين مستقبلا اختيار “شخصيات متعددة للنموذج”، مع تعزيز الضوابط الآمنة وتوسيع نطاق الاختبارات لاكتشاف المشكلات مبكرا.
واختتمت الشركة تدوينتها بالقول: “أحد أهم الدروس التي تعلمناها هو إدراك مدى اعتماد الناس على ChatGPT للحصول على نصائح شخصية عميقة وهو أمر لم نره بهذه القوة قبل عام فقط، والآن، أصبح من الضروري أن نتعامل مع هذا الاستخدام بحذر أكبر، وسيكون جزءا جوهريا من عملنا في مجال السلامة”.
المصدر: صدى البلد
كلمات دلالية: الذكاء الاصطناعي
إقرأ أيضاً:
تزايد الانتقادات ضدّ إسرائيل.. كولومبيا تفتح سفارتها في فلسطين وألمانيا تدين التصعيد في غزة
في ظل استمرار العمليات العسكرية الإسرائيلية في قطاع غزة، تتصاعد الانتقادات الدولية للنهج الإسرائيلي، وسط تحركات دبلوماسية غير مسبوقة من بعض الدول، كان أبرزها إعلان كولومبيا تعيين أول سفير لها لدى دولة فلسطين، في خطوة اعتبرها مراقبون تصعيدًا دبلوماسيًا يعكس تحوّلًا في الموقف الكولومبي تجاه الصراع الفلسطيني-الإسرائيلي.
وقال المستشار الألماني فريدريش ميرتس، اليوم الثلاثاء، إن ما يحدث في غزة “لم يعد مبررًا كمحاربة لإرهاب حماس”، مضيفًا: “نشعر بقلق بالغ إزاء تكثيف الأنشطة العسكرية الإسرائيلية”. وأشار ميرتس إلى أن العمليات الأخيرة تسببت في “معاناة متزايدة للمدنيين”، في تصريحات تعكس تحوّلًا في الموقف الألماني الرسمي، المعروف تاريخيًا بدعمه لإسرائيل.
من جانبه، رد السفير الإسرائيلي لدى ألمانيا، رون بروسور، بالقول إن حكومة بلاده تأخذ هذه الانتقادات “على محمل الجد”، خاصة عندما تأتي من شخصيات تُعتبر “أصدقاء لإسرائيل”. في الوقت ذاته، عبّر بروسور عن رفض إسرائيل لمحاولات دول أوروبية، كفرنسا وإسبانيا، الاعتراف بدولة فلسطينية، معتبراً أن “ذلك يُكافئ حماس بعد المذبحة”.
وفي خطوة رمزية وذات دلالة سياسية، أعلنت وزارة الخارجية الكولومبية يوم الإثنين تعيين خورخي إيفان أوسبينا كأول سفير لكولومبيا لدى فلسطين، بعد قرار الرئيس غوستافو بيترو قطع العلاقات الدبلوماسية مع إسرائيل في مايو 2024، احتجاجًا على ما وصفه بـ”الإبادة الجماعية” في غزة.
أوسبينا، وهو رئيس سابق لبلدية كالي ونجل أحد قادة منظمة “إم-19” المسلحة سابقًا، أكد التزام بلاده بدعم الشعب الفلسطيني، معلنًا استعداد كولومبيا لاستقبال الجرحى من غزة، خصوصًا الأطفال، لتلقي العلاج، وقال: “لا يمكن للعالم أن يغض الطرف عن المدنيين في غزة والضفة. لا يجوز أن يموت الناس جوعًا”.
وأشار السفير الكولومبي إلى أن مهامه تشمل تطوير عمل السفارة الكولومبية في رام الله، بالتنسيق مع السلطات المعنية، كما شدد على أن كولومبيا “تعترف رسميًا بدولة فلسطين” وتؤمن بحل الدولتين وضرورة تعايش الشعبين الفلسطيني والإسرائيلي بسلام.
وتأتي هذه المواقف في وقت يتزايد فيه الضغط الدولي على إسرائيل، وسط دعوات من قادة دول أوروبية مثل ألمانيا وبلجيكا والنرويج لفرض عقوبات ووقف العمليات العسكرية، التي أسفرت عن دمار واسع وسقوط آلاف الضحايا من المدنيين في قطاع غزة.
الاطلاع على سير العمل في مكتب الخارجية بالحديدة