ابتكار "ذكاء اصطناعي سام" لوقف خطر روبوتات الدردشة
تاريخ النشر: 25th, April 2024 GMT
استخدم باحثو معهد ماساتشوستس للتكنولوجيا طريقة جديدة "تحاكي فضول الإنسان" لتدريب النماذج اللغوية الذكية على عدم إعطاء ردود "خطيرة" على الأسئلة المثيرة.
ويطلق على الطريقة القائمة على التعلم الآلي، اسم "الفريق الأحمر القائم على الفضول" (CRT)، المصمم خصيصا لتوليد أسئلة إشكالية تؤدي إلى استجابات غير مرغوب فيها من روبوتات الدردشة.
وبعد ذلك، يمكن استخدام هذه الأسئلة لتحديد كيفية تصفية المحتوى الخطير من روبوت الدردشة، ما قد يغير قواعد اللعبة لتدريب الذكاء الاصطناعي على عدم إعطاء أجوبة سامة (خطيرة) وغير صالحة للمستخدم.
وعادة، يقوم الخبراء بإنشاء مجموعة من الأسئلة، التي من المحتمل أن تولد استجابات ضارة، عند تدريب نماذج اللغات المعقدة (LLMs)، مثل ChatGPT أو Claude 3 Opus، بهدف تقييد المحتوى الخطير أو الضار.
إقرأ المزيد
وأثناء عملية التدريب، يتم استخدام الأسئلة التي تثير محتوى خطيرا، لتدريب النظام على ما يجب تقييده عند طرحه أمام مستخدمين حقيقيين.
وطبّق العلماء التعلم الآلي على CRT ليولد تلقائيا نطاقا أوسع من الأسئلة التي يحتمل أن تكون خطيرة، مقارنة بفرق المشغلين البشريين. وأدى ذلك إلى عدد أكبر من الاستجابات السلبية الأكثر تنوعا.
ثم حفزوا نموذج CRT لتوليد المزيد من الأسئلة المتنوعة، بحيث يمكن أن تثير استجابة سامة من خلال "التعلم الآلي"، ونجح النظام في إثارة استجابة سامة موافقة للأسئلة، ما يمنح القدرة على إضافة التعديلات اللازمة لتقديم الإجابة المناسبة تبعا لجميع خيارات الأسئلة المريبة المحتملة.
وعندما اختبر العلماء طريقة CRT على نموذج LLaMA2 مفتوح المصدر، أنتج نموذج التعلم الآلي 196 سؤالا ينجم عنه محتوى ضار.
وقال الفريق إن النظام تفوق أيضا على أنظمة التدريب الآلية المنافسة.
المصدر: لايف ساينس
المصدر: RT Arabic
كلمات دلالية: بحوث تكنولوجيا ذكاء اصطناعي روبوت التعلم الآلی
إقرأ أيضاً:
وضع الدراسة بـ تشات جي بي تي.. ميزة جديدة تغيّر قواعد التعلم الذكي
أبوظبي (الاتحاد)
أعلنت شركة "أوبن أيه آي" عن إطلاق "وضع الدراسة"، وهي ميزة جديدة ضمن شات جي بي تي تهدف إلى مساعدة الطلاب على تطوير مهارات التفكير النقدي لديهم، بدلاً من مجرد الحصول على إجابات للأسئلة.
مع تفعيل "وضع الدراسة"، سيطرح شات جي بي تي أسئلة على المستخدمين لاختبار فهمهم، وفي بعض الحالات، سيرفض تقديم إجابات مباشرة إلا إذا تفاعل الطلاب مع المادة.
وتطرح "أوبن أيه آي" "وضع الدراسة" للمستخدمين المسجلين في باقات شات جي بي تي المجانية، والمميزة، والاحترافية، والجماعية ابتداءً من يوم الثلاثاء. ومن المتوقع أن يتم توفير الميزة لمشتركي خطة "Edu" خلال الأسابيع المقبلة، وهي الخطة التي تعتمدها المؤسسات التعليمية لتوفير "تشات جي بي تي" لطلابها بشكل جماعي. بحسب تقرير نشره موقع "تك كرانش".
تهدف الميزة الجديدة إلى مساعدة الطلاب على تطوير مهاراتهم في التفكير النقدي بدلاً من الاكتفاء بالحصول على إجابات جاهزة للأسئلة. فعند تفعيل هذا الوضع، يبدأ "تشات جي بي تي" بطرح أسئلة لاختبار مدى فهم الطالب، وقد يمتنع أحيانًا عن تقديم الإجابات المباشرة ما لم يُظهر المستخدم تفاعلاً حقيقياً مع المادة.
وتأتي هذه الخطوة كجزء من جهود "أوبن أيه آي" لمعالجة التحديات المرتبطة باستخدام الملايين من الطلاب لـ "تشات جي بي تي" في بيئات التعليم. فعلى الرغم من أن الدراسات أظهرت أن "تشات جي بي تي" يمكن أن يكون أداة تعليمية مفيدة، إلا أن هناك أدلة تشير إلى أنه قد يُضعف مهارات التفكير النقدي لدى الشباب. ففي دراسة نُشرت في يونيو، تبين أن المستخدمين الذين اعتمدوا على "تشات جي بي تي لكتابة المقالات أظهروا نشاطًا دماغيًا أقل مقارنةً بمن استخدموا محرك بحث جوجل أو لم يستخدموا أي أداة مساعدة.
أخبار ذات صلةومنذ إطلاق "تشات جي بي تي" في عام 2022، أثار انتشاره في المدارس قلقاً واسعاً بين المعلمين، ما أدى إلى فرض حظر على استخدام الذكاء الاصطناعي التوليدي في العديد من المناطق التعليمية في الولايات المتحدة. إلا أنه بحلول عام 2023، قامت بعض هذه المؤسسات التعليمية بإلغاء الحظر، مع تسليم المعلمين بحقيقة أن "تشات جي بي تي" بات جزءاً من حياة الطلاب اليومية.
ومع إطلاق "وضع الدراسة"، تأمل أوبن أيه آي في أن يصبح "تشات جي بي تي" أداة تعليمية فعالة، وليس مجرد وسيلة للحصول على إجابات. ويُذكر أن شركة Anthropic قد أطلقت ميزة مماثلة في أبريل الماضي لروبوتها الذكي "Claude" تحت اسم "وضع التعلّم" (Learning Mode).
وبالرغم من ما تحمله هذه الميزة من وعود، فإن فعاليتها لا تزال محدودة؛ إذ يمكن لأي طالب ببساطة التبديل إلى الوضع العادي من"تشات جي بي تي" للحصول على الإجابة مباشرة. كما أكدت ليهيا بلسكي، نائبة رئيس "أوبن أيه آي" لشؤون التعليم، أن الشركة لا توفر حالياً أدوات لأولياء الأمور أو الإداريين لفرض استخدام "وضع الدراسة" على الطلاب. ومع ذلك، أوضحت بلسكي أن "أوبن أيه آي" قد تدرس مستقبلاً تقديم خيارات تحكم للآباء والإداريين.
وهذا يعني أن فاعلية "وضع الدراسة" تعتمد في المقام الأول على إرادة الطالب والتزامه بالتعلّم، وليس فقط إنجاز الواجب.
لقاء جعجع – جنبلاط... تحالف انتخابي ع القطعة