فريق لتحديد مخاطر الذكاء الاصطناعي ومنعها

نيويورك ـ أ ف ب: أنشأت شركة «أوبن إيه آي» فريقًا متخصصًا لتحديد المخاطر المتعلِّقة بالذكاء الاصطناعي ومنعها، ما قد يؤدي إلى تعليق إطلاق نموذج للذكاء الاصطناعي إذا اعتُبر خطرًا للغاية. ويأتي هذا الإعلان بعد شهر من إقالة مبتكر واجهة المحادثة «تشات جي بي تي» سام ألتمان الذي أعيد إلى منصبه بعد بضعة أيام.

وسيقود فريق الاستعداد الباحث في علوم الحاسوب ألكسندر مادري، وهو في إجازة من معهد ماساتشوستس للتكنولوجيا (ام اي تي)، حيث يعمل أستاذًا، بحسب رسالة نشرها الأكاديمي على منصَّة «إكس»، وستهتم هذه المجموعة الجديدة بشكل أساسي بما يُسمَّى بالنماذج «الطليعية» (frontier models)، التي تُطوِّر حاليًّا وتتفوق بقدراتها على البرامج الأكثر تقدُّمًا في مجال الذكاء الاصطناعي. وسيعمد الفريق إلى تقويم كُلِّ نموذج جديد وتحديد مستوى المخاطر الناجمة عنه في أربع فئات رئيسية. ويتعلق الأول بالأمن السيبراني، أمَّا الثاني فسيقيس ميل البرنامج للمساعدة في إنشاء كائن حي (مثل فيروس) أو سلاح نووي، وتتعلق الفئة الثالثة بقدرة النموذج على الإقناع، والتأثير على السلوك البشري. وترتبط الفئة الأخيرة من المخاطر بالاستقلالية المحتملة للنموذج، أي تحديد ما إذا كان يمكنه أن يفلت من سيطرة المبرمجين.

المصدر: جريدة الوطن