دراسة: الذكاء الاصطناعي قادر على الخداع
تاريخ النشر: 22nd, December 2024 GMT
تابع أحدث الأخبار عبر تطبيق
أظهرت دراسة أجرتها شركة تكنولوجيا الذكاء الاصطناعي الأمريكية أنثروبيك أن نماذج الذكاء الاصطناعي تستطيع خداع المطورين وإبداء وجهات نظر مختلفة خلال تدريبها وفقا لما نشرته مجلة تك كرانش المتخصصة فى هذا المجال .
كشف فريق البحث إنه لا يوجد سبب للشعور بالفزع حاليا في حين أن دراستهم يمكن أن تكون حيوية في فهم المخاطر المحتملة التي تنطوي عليها أنظمة الذكاء الاصطناعي المستقبلية ذات القدرات الأعلى.
ولهذا يجب النظر إلى تلك النتائج كمحفز لمجتمع أبحاث الذكاء الاصطناعي من أجل دراسة هذا السلوك بصورة أعمق والعمل على تطوير إجراءات الأمن والسلامة المناسبة بعد أن أصبحت نماذج الذكاء الاصطناعي أقوى وأكثر انتشارا نحتاج إلى التحلي بالقدرة على الاعتماد على التدريب الآمن لها والذي يمنع النماذج من القيام بتصرفات ضارة.
تمت الدراسة بالتعاون مع مؤسسة ريد وود ريسيرش لأبحاث الذكاء الاصطناعي وتناولت ما يمكن أن يحدث إذا تم تدريب نظام ذكاء اصطناعي قوي من أجل القيام بمهمة لا يريد هوالقيام بها.
كما أن لا يمكن لنماذج الذكاء الاصطناعي أن تريد أي شيء أو تعتقد في شئ ، فهي ببساطة آلات إحصائية وبعد تدريبها على العديد من الأمثلة تتعلم الأنماط في تلك الأمثلة للتنبؤ بما يجب أن يكون مثل كيف تأتي عبارة إلى من في رسالة بريد إلكتروني قبل عبارة قد يهمك الأمر.
وفى أثناء الدراسة طلب الباحثون من النماذج المدربة عدم الرد على الأسئلة التي يمكن أن تكون مسيئة بما في ذلك النموذج "كلاود3 أوبس" التابع لشركة "أنثروبيك" والتي أعيد تدريبها لكي ترد دائما على الأسئلة التي تنطوي على إساءة وهو تضارب واضح في المبادئ كما أبلغوا النماذج بأن ردودها ستخضع للمراقبة وتستخدم لإعادة التدريب وإعطاء كل نموذج ذكاء اصطناعي ورقة ملاحظات .
ويمكنه استخدامها لتدوين أفكاره خطوة بخطوة وبحسب الباحثين فحاول "كلاود3 أوبوس" التلاعب بالردود لتقديم انحياز زائف في 12% من المرات.
المصدر: البوابة نيوز
كلمات دلالية: الذكاء الاصطناعي دراسة نماذج الذكاء وجهات نظر مختلفة الذکاء الاصطناعی
إقرأ أيضاً:
الذكاء الاصطناعي يفضّل الاستشهاد بالمحتوى الصحفي
وجد تقرير حديث صادر عن منصة "موك راك" أن نماذج الذكاء الاصطناعي التوليدي الرئيسية تستشهد بالصحافة في ما يقارب نصف الردود على الأسئلة التي توجه إليها، وتحتاج إلى معلومات حديثة.
ويُعدّ المحتوى الصحفي جزءا لا يتجزأ من إجابات أدوات الذكاء الاصطناعي التوليدي، وفقًا لتقرير منصة "موك راك" الأميركية التي تعتبر أداة للتواصل الفعال داخل صناعة الإعلام، وتوفر للصحفيين قاعدة بيانات برمجية وإعلامية تحتوي على ملفات تعريفية.
اقرأ أيضا list of 2 itemslist 1 of 2دراسة: الجمهور يرغب في عناوين بسيطة ومباشرة على عكس الصحفيينlist 2 of 2شبكة الجزيرة تحذر من استهداف صحفييها في غزة بتحريض من الاحتلالend of listوحلل مؤلفو التقرير الذي نُشر هذا الأسبوع، أكثر من مليون استشهاد ناتج عن نماذج الذكاء الاصطناعي التوليدي. وتم الاستشهاد بالمحتوى الصحفي أكثر من 27% من المرات في جميع اختبارات المنصة المذكورة، التي طلب السائلون فيها معلومات حديثة.
وبحسب التقرير فقد قفز الرقم إلى 49%، عندما يتعلق الأمر بالاستعلامات التي تضمنت "مستوى من الحداثة" على أسئلة مثل "أحدث التطورات في أساليب العلاج الخارجي لإدمان المخدرات".
أفضل ستة منافذ إعلامية استشهد بها كل نموذج هي وكالة رويترز، وصحيفتا فاينانشال تايمز، وتايم، وفوربس، وأكسيوس، وقد ظهرت في كل من قائمتي تشات جي بي تي وجيمناي.
بواسطة تقرير موك راك
وبحسب الدراسة وبخصوص استشهادات المحتوى الصحفي، بدا أن نماذج الذكاء الاصطناعي تُفضل القصص المنشورة خلال الاثني عشر شهرا الماضية. وينطبق هذا خاصة على تشات جي بي تي الذي نُشرت 56% من استشهاداته الصحفية خلال العام الماضي. أما بالنسبة لنموذج كلود وهو نموذج لغوي كبير من تطوير شركة أنثروبيك، فقد بلغت هذه النسبة 36% فقط من إجمالي الاستشهادات.
كما وجدت منصة موك راك، أن نوع السؤال المطروح على نماذج الذكاء الاصطناعي غيّر مصادر الاستشهاد بشكل كبير. فالأسئلة الذاتية، مثل الاستفسارات التي تطلب نصائح أو تعليمات خطوة بخطوة، استُمدت بشكل أكبر من "مدونات ومحتوى الشركات".
إعلانولاحظ التقرير، أن أفضل ستة منافذ إعلامية استشهد بها كل نموذج، هي وكالة رويترز، وصحيفتا فايننشال تايمز، وتايم، وفوربس، وأكسيوس، وقد ظهرت في كل من قائمتي تشات جي بي تي وجيمناي.