ابتكار "ذكاء اصطناعي سام" لوقف خطر روبوتات الدردشة
تاريخ النشر: 25th, April 2024 GMT
استخدم باحثو معهد ماساتشوستس للتكنولوجيا طريقة جديدة "تحاكي فضول الإنسان" لتدريب النماذج اللغوية الذكية على عدم إعطاء ردود "خطيرة" على الأسئلة المثيرة.
ويطلق على الطريقة القائمة على التعلم الآلي، اسم "الفريق الأحمر القائم على الفضول" (CRT)، المصمم خصيصا لتوليد أسئلة إشكالية تؤدي إلى استجابات غير مرغوب فيها من روبوتات الدردشة.
وبعد ذلك، يمكن استخدام هذه الأسئلة لتحديد كيفية تصفية المحتوى الخطير من روبوت الدردشة، ما قد يغير قواعد اللعبة لتدريب الذكاء الاصطناعي على عدم إعطاء أجوبة سامة (خطيرة) وغير صالحة للمستخدم.
وعادة، يقوم الخبراء بإنشاء مجموعة من الأسئلة، التي من المحتمل أن تولد استجابات ضارة، عند تدريب نماذج اللغات المعقدة (LLMs)، مثل ChatGPT أو Claude 3 Opus، بهدف تقييد المحتوى الخطير أو الضار.
إقرأ المزيد
وأثناء عملية التدريب، يتم استخدام الأسئلة التي تثير محتوى خطيرا، لتدريب النظام على ما يجب تقييده عند طرحه أمام مستخدمين حقيقيين.
وطبّق العلماء التعلم الآلي على CRT ليولد تلقائيا نطاقا أوسع من الأسئلة التي يحتمل أن تكون خطيرة، مقارنة بفرق المشغلين البشريين. وأدى ذلك إلى عدد أكبر من الاستجابات السلبية الأكثر تنوعا.
ثم حفزوا نموذج CRT لتوليد المزيد من الأسئلة المتنوعة، بحيث يمكن أن تثير استجابة سامة من خلال "التعلم الآلي"، ونجح النظام في إثارة استجابة سامة موافقة للأسئلة، ما يمنح القدرة على إضافة التعديلات اللازمة لتقديم الإجابة المناسبة تبعا لجميع خيارات الأسئلة المريبة المحتملة.
وعندما اختبر العلماء طريقة CRT على نموذج LLaMA2 مفتوح المصدر، أنتج نموذج التعلم الآلي 196 سؤالا ينجم عنه محتوى ضار.
وقال الفريق إن النظام تفوق أيضا على أنظمة التدريب الآلية المنافسة.
المصدر: لايف ساينس
المصدر: RT Arabic
كلمات دلالية: بحوث تكنولوجيا ذكاء اصطناعي روبوت التعلم الآلی
إقرأ أيضاً:
تحذير هام: إعلان "ذكاء اصطناعي" قد يدمر جهازك.. لا تنخدع بالشكل
صورة تعبيرية (مواقع)
في موجة خداع رقمية جديدة، وقع ملايين المستخدمين حول العالم في فخ قاتل يختبئ خلف كلمات براقة مثل: "صمّم فيديوهاتك بالذكاء الاصطناعي". لكن الحقيقة الصادمة؟ هذه ليست أدوات تقنية، بل أبواب مفتوحة لاختراق حاسوبك وسرقة بياناتك.
كشفت شركة الأمن السيبراني "مانديانت" التابعة لجوجل عن حملة احتيال إلكترونية مقلقة يقودها مهاجمون محترفون. هؤلاء يستغلون شغف الناس المتزايد بأدوات الذكاء الاصطناعي – مثل Canva Dream Lab وLuma AI وKling AI – ويعيدون تصميم إعلانات مزيفة تشبهها بدرجة مذهلة.
اقرأ أيضاً شغّل واتساب الآن بدون رقم هاتف.. السر الذي لا يخبرك به أحد 30 مايو، 2025 وداعا للإحراج: طرق مذهلة للتخلص من رائحة الفم الكريهة نهائيا 30 مايو، 2025
ما الذي يحدث فعلًا؟:
بمجرد أن تضغط على الإعلان المغري لتجربة الأداة، يتم تثبيت برمجيات تجسس خبيثة على جهازك دون علمك، بما فيها أبواب خلفية (Backdoors) تسمح للمهاجمين بالتحكم بجهازك وسرقة ملفاتك.
الخطر عالمي:
وفق تقارير الأمن الإلكتروني، وصلت هذه الإعلانات إلى أكثر من 2.3 مليون مستخدم عبر فيسبوك ولينكدإن، وقد تكون موجودة أيضًا على منصات أخرى.
لماذا تنجح هذه الخدعة؟:
لأنها تستغل فضولك. أنت لا ترى إعلانًا لفيروس، بل "أداة مبتكرة لتصميم الفيديوهات بالذكاء الاصطناعي". تم تصميم المواقع المزيفة بدقة، وتبدو حقيقية تمامًا، لكنها مصيدة رقمية مميتة.
لا تكن الضحية التالية: إليك كيف تحمي نفسك:
لا تنقر على أي إعلان مباشرة من فيسبوك أو لينكدإن، خصوصًا تلك التي تعدك بأدوات AI مجانية أو سريعة.
افحص رابط الموقع بدقة، وتأكد أنه يتبع النطاق الرسمي للأداة المعروفة.
استخدم محرك بحث للوصول للموقع بدلاً من الإعلانات.
ثبّت برامج حماية موثوقة وتحدّثها بانتظام.
احذر من تحميل أي برنامج من مصادر غير رسمية، مهما بدا بريئًا أو "ذكيًا".
برلماني يطالب بإجراء تعديل تشريعي شامل في قانون الضريبة على العقارات المبنية