ChatGPT يخرج عن السيطرة.. تغييرات مرتقبة من OpenAI بعد موجة الانتقادات
تاريخ النشر: 3rd, May 2025 GMT
أعلنت شركة OpenAI أنها ستجري تغييرات على طريقة تحديث نماذج الذكاء الاصطناعي التي تشغل ChatGPT، وذلك عقب حادثة أثارت جدلا واسعا بسبب تحول شخصية الروبوت إلى سلوك مفرط في المجاملة والتأييد، لدرجة غير طبيعية.
خلال عطلة نهاية الأسبوع الماضية، وبعد إطلاق إصدار محدث من نموذج GPT-4o، الذي يعد النموذج الافتراضي لـ ChatGPT، لاحظ مستخدمون على مواقع التواصل الاجتماعي أن الردود أصبحت أكثر إرضاء وموافقة بشكل غير معتاد، لدرجة أن الروبوت بدأ يشيد حتى بالأفكار والمقترحات الخطيرة أو غير المقبولة، مما سرعان ما تحول إلى مادة ساخرة ومنتشرة على الإنترنت.
علق الرئيس التنفيذي للشركة سام ألتمان، على الحادثة عبر منصة “إكس” قائلا إنهم يعملون على “إصلاحات عاجلة”، وفي يوم الثلاثاء أعلن عن سحب التحديث الأخير مؤقتا، إلى جانب العمل على تعديلات إضافية على “شخصية” النموذج.
وفي تقرير تقني، أوضحت OpenAI أنها بصدد مراجعة آلية إطلاق النماذج المستقبلية، وأنها ستتخذ عدة خطوات لضمان ضبط سلوك النماذج.
أبرز التعديلات المعلنة:- إدخال مرحلة “ألفا اختيارية” لبعض النماذج، تتيح لمجموعة من المستخدمين تجربة النموذج قبل الإطلاق الرسمي وتقديم ملاحظاتهم.
- إدراج شرح مسبق لأي “قيود معروفة” عند طرح تحديثات جديدة للنماذج.
- مراجعة عملية السلامة بشكل أكثر صرامة لتشمل تقييمات لسلوك النموذج مثل المجاملة المفرطة، الخداع، الموثوقية، والهلوسة (اختلاق معلومات)، واعتبار هذه المشكلات “مانعة للإطلاق”.
وجاء في تدوينة الشركة: “سنقوم من الآن فصاعدا بالتواصل بشكل استباقي حول التحديثات التي نجريها على النماذج في ChatGPT، سواء كانت بسيطة أو كبيرة، وحتى إذا لم تكن هذه المشكلات قابلة للقياس الكمي حاليا، فإننا نلتزم بمنع الإطلاقات بناء على إشارات نوعية أو تقديرية”.
تأتي هذه التعديلات في وقت أصبح فيه ChatGPT مصدرا رئيسيا للمشورة بالنسبة لكثير من المستخدمين، ووفقا لاستطلاع حديث أجرته شركة Express Legal Funding، فإن 60% من البالغين في الولايات المتحدة استخدموا ChatGPT للحصول على نصيحة أو معلومات.
ومع تزايد الاعتماد على المنصة، تصبح الأخطاء السلوكية مثل المجاملة المفرطة أو تقديم معلومات خاطئة أكثر خطورة وتأثيرا.
كجزء من الجهود المستمرة، قالت OpenAI هذا الأسبوع إنها ستختبر ميزة تسمح للمستخدمين بتقديم تعليقات فورية أثناء المحادثة، تؤثر مباشرة على التفاعل مع الروبوت.
كما أشارت إلى أنها قد تتيح للمستخدمين مستقبلا اختيار “شخصيات متعددة للنموذج”، مع تعزيز الضوابط الآمنة وتوسيع نطاق الاختبارات لاكتشاف المشكلات مبكرا.
واختتمت الشركة تدوينتها بالقول: “أحد أهم الدروس التي تعلمناها هو إدراك مدى اعتماد الناس على ChatGPT للحصول على نصائح شخصية عميقة وهو أمر لم نره بهذه القوة قبل عام فقط، والآن، أصبح من الضروري أن نتعامل مع هذا الاستخدام بحذر أكبر، وسيكون جزءا جوهريا من عملنا في مجال السلامة”.
المصدر: صدى البلد
كلمات دلالية: الذكاء الاصطناعي
إقرأ أيضاً:
رئيس الإحصاء يُكرم النماذج المشرفة ويستعرض إنـجازات الجهاز
عقد اللواء خيرت بركات، رئيس جهاز الإحصاء، اجتماعاً موسعًا في إطار اهتمام الجهاز المركزي للتعبئة العامة والإحصاء بترسيخ بيئة عمل إيجابية قائمة على التقدير والتحفيز، مع العاملين بالجهاز يوم الاثنين الموافق 21/7/2025 لتكريم مجموعة من العاملين ممن قدّموا أداءً متميزًا خلال الفترة الماضية، وهو ما يعكس احترام الجهاز للجهد العلمى والمهنى ويعزز ثقافة التقدير داخل بيئة العمل، كما يعزز الانتماء المؤسسى ويشجع على الاستمرارية في الأداء المتميز .
وقد شمل التكريم:
• المحالين للتقاعد، تقديرًا لمسيرتهم المهنية الحافلة بالعطاء والانضباط.
• الحاصلين على درجات علمية متقدمة، دعمًا لمسيرة التطوير الذاتي والمهني وبناء القدرات.
• عدد من الباحثين المتميزين في الأبحاث الميدانية مثل مسح القوى العاملة الدورة الأولى 2025 ـ بحث تنافسية المحافظات 2024 ـ مسح قياس الأعراف والمعايير الاجتماعية ( ختان الإناث 2024)، والذين أسهموا في تعزيز دقة وجودة مخرجات الجهاز الإحصائية.
وفي كلمته، أكد بركات أن العنصر البشري هو أساس النجاح والتطور داخل الجهاز.
واستعرض الدور الذى يقوم به الجهاز وما يقدمه من بيانات دقيقة وإحصاءات ، تعتمد عليها الدولة في التخطيط والتنمية كمحور ارتكاز لرسم السياسات وإعداد الخطط بما ينعكس على جهود التنمية ويعزز عملية صنع القرار، خصوصًا في الفترة الأخيرة مثل مسح صحة الأسرة المصرية، والذى يتم من خلاله تقييم البرامج التي تقوم بها وزارة الصحة والسكان من أجل خفض معدلات النمو السكانى، إلى جانب مشروعات القوانين التي تم تصديق رئيس الجمهورية عليها خلال الفترة الأخيرة مثل قانون الرقم القومى الموحد للعقارات، حيث يتولى الجهاز بالتنسيق مع وزارة الاتصالات والجهات المعنية تحديد مكونات الرقم الموحد للعقار والوسائل التي يتم من خلالها التعريف بهوية العقار طبقًا لرقمه القومى، وآليات تحديث القاعدة العقارية مثل البناء أو الهدم أو الدمج، وأيضًا قانون إعادة تقسيم الدوائر الانتخابية في خطوة مهمة نحو تحديث الإطار التشريعى المنظم للعملية الانتخابية بما يتماشى مع التغيرات الديموجرافية وفق أحدث البيانات الصادرة عن الجهاز، بالإضافة إلى عرض آخر الإحصائيات حول عدد الوحدات السكنية والأسر الخاضعة لنظام الإيجار القديم على مستوى الجمهورية خلال مناقشات مجلس النواب بشأن قانون الإيجار القديم.
وشدد على أن الجهاز يواصل المضي قدما نحو إصدار التقارير الدورية والتي تغطى جميع الجوانب الاقتصادية والاجتماعية والبيئية في إطار استراتيجية متكاملة لبناء قاعدة بيانات وطنية تدعم التخطيط والتنمية المستدامة والجمهورية الجديدة.
واستمرارًا لدور الجهاز في دعم الخدمة المجتمعية والتنمية البشرية وتنفيذًا لتوجيهات القيادة السياسية بضرورة دعم وبناء الإنسان المصري، تم استعراض الأنشطة التي نفذتها الإدارة المركزية لتنمية الموارد البشرية في مجال الخدمات المجتمعية والمبادرات الرئاسية واختبارات قياس الأداء والجهود التسويقية داخل وخارج المركز .
كما شهد الاجتماع عرضًا تقديميًا يتضمن أهم الأنشطة المنفذة بالجهاز خلال شهر يونيو 2025 داخل وخارج الجمهورية وأهم الأحداث والفعاليات التي نظمها الجهاز خلال هذا الشهر.
وفى ختام اللقاء، استمع بركات للشكاوى والمقترحات من العاملين بالجهاز، كما توجه بالشكر لجميع العاملين على جميع الجهود المبذولة.
كم عمر الدرع وأبناء درع السودان وهل لديهم ثقافة حرب عمرها يتجاوز العشرين عام