لندن "العُمانية": ابتكر باحثون من معهد ماساتشوستس للتكنولوجيا بمدينة كامبريدج طريقة جديدة " تحاكي فضول الإنسان" لتدريب النماذج اللغوية الذكية على عدم إعطاء ردود "خطيرة" على الأسئلة المثيرة. وقد سميت الطريقة القائمة على التعلم الآلي، بـ "الفريق الأحمر القائم على الفضول" (CRT)، المصممة خصيصًا لتوليد أسئلة إشكالية تؤدي إلى استجابات غير مرغوب فيها من روبوتات الدردشة.

ويمكن من خلال هذه الأسئلة تحديد كيفية تصفية المحتوى الخطير من روبوت الدردشة، ما يغير قواعد اللعبة لتدريب الذكاء الاصطناعي على عدم إعطاء أجوبة سامة (خطيرة) وغير صالحة للمستخدم. ويقوم الخبراء عادة بإنشاء مجموعة من الأسئلة، التي من المحتمل أن تولد استجابات ضارة، عند تدريب نماذج اللغات المعقدة (LLMs)، مثل ChatGPT أو Claude 3 Opus؛ بهدف تقييد المحتوى الخطير أو الضار. ويتم أثناء عملية التدريب استخدام الأسئلة التي تثير محتوى خطيرًا، لتدريب النظام على ما يجب تقييده عند طرحه أمام مستخدمين حقيقيين. وطبّق العلماء التعلم الآلي على CRT ليولد تلقائيًّا نطاقًا أوسع من الأسئلة التي يحتمل أن تكون خطيرة، مقارنة بفرق المشغلين البشريين. وأدى ذلك إلى عدد أكبر من الاستجابات السلبية الأكثر تنوعًا. ثم حفزوا نموذج CRT لتوليد المزيد من الأسئلة المتنوعة، بحيث يمكن أن تثير استجابة سامة من خلال "التعلم الآلي"، ونجح النظام في إثارة استجابة سامة موافقة للأسئلة، ما يمنح القدرة على إضافة التعديلات اللازمة لتقديم الإجابة المناسبة تبعًا لجميع خيارات الأسئلة المريبة المحتملة.

المصدر: لجريدة عمان

إقرأ أيضاً:

شاهد رقصة الغاز طريقة جديدة للتعبير عن المعاناة في تعز


ويعاني المواطنين هناك أزمة كبيرة في انعدام الغاز كمادة ضرورية للاسر ولم تتخلص من أزمة المياه التي قضَّت مضاجع الساكنين حتى دخلت في أزمة الغاز المنزلي لتصبح هذه المدينةُ لقمةً سائغةً للأزمات التي تلتهمها بكل حين.

 

مواطنون في #تعز يرقصون وأكتافهم تثقلها الأسطوانات، احتجاجًا على أزمة الغاز.#تعز_تايم #اليمن #yemen pic.twitter.com/hvQmr9PRbx

— تعز تايم - Taiz Time (@TaizTime) June 23, 2025

مقالات مشابهة

  • تربية الأبناء في عصر الذكاء الاصطناعي.. الموازنة بين الفرص والمسؤوليات
  • محسن صبري لـ "الفجر الفني": الذكاء الاصطناعي تقنية خطيرة جدًا وهذا رأيي به.. أحضر أعمال جديدة (خاص)
  • هيئة التأمين الصحي الشامل تطلق جلسة حول التغطية المدعومة بالذكاء الاصطناعي
  • هيئة التأمين الصحي الشامل تطلق جلسة لرقمنة التغطية الصحية بالذكاء الاصطناعي
  • الداخلية تدعو الجماعات المحلية إلى ابتكار صيغ جديدة لركن السيارات
  • مختص يوضح طريقة الحد من تزييف الصور والفيديوهات عبر الذكاء الاصطناعي
  • العراق يرحب بالمبادرة التي أفضت لوقف إطلاق النار بين إيران و”اسرائيل”
  • آبل تدرس الاستحواذ على محرك البحث بالذكاء الاصطناعي بيربليكستي
  • شاهد رقصة الغاز طريقة جديدة للتعبير عن المعاناة في تعز
  • ما كمية الطاقة التي يستهلكها الذكاء الاصطناعي لتقديم إجابة واحدة؟