دراسة: الذكاء الاصطناعي قادر على الخداع
تاريخ النشر: 22nd, December 2024 GMT
تابع أحدث الأخبار عبر تطبيق
أظهرت دراسة أجرتها شركة تكنولوجيا الذكاء الاصطناعي الأمريكية أنثروبيك أن نماذج الذكاء الاصطناعي تستطيع خداع المطورين وإبداء وجهات نظر مختلفة خلال تدريبها وفقا لما نشرته مجلة تك كرانش المتخصصة فى هذا المجال .
كشف فريق البحث إنه لا يوجد سبب للشعور بالفزع حاليا في حين أن دراستهم يمكن أن تكون حيوية في فهم المخاطر المحتملة التي تنطوي عليها أنظمة الذكاء الاصطناعي المستقبلية ذات القدرات الأعلى.
ولهذا يجب النظر إلى تلك النتائج كمحفز لمجتمع أبحاث الذكاء الاصطناعي من أجل دراسة هذا السلوك بصورة أعمق والعمل على تطوير إجراءات الأمن والسلامة المناسبة بعد أن أصبحت نماذج الذكاء الاصطناعي أقوى وأكثر انتشارا نحتاج إلى التحلي بالقدرة على الاعتماد على التدريب الآمن لها والذي يمنع النماذج من القيام بتصرفات ضارة.
تمت الدراسة بالتعاون مع مؤسسة ريد وود ريسيرش لأبحاث الذكاء الاصطناعي وتناولت ما يمكن أن يحدث إذا تم تدريب نظام ذكاء اصطناعي قوي من أجل القيام بمهمة لا يريد هوالقيام بها.
كما أن لا يمكن لنماذج الذكاء الاصطناعي أن تريد أي شيء أو تعتقد في شئ ، فهي ببساطة آلات إحصائية وبعد تدريبها على العديد من الأمثلة تتعلم الأنماط في تلك الأمثلة للتنبؤ بما يجب أن يكون مثل كيف تأتي عبارة إلى من في رسالة بريد إلكتروني قبل عبارة قد يهمك الأمر.
وفى أثناء الدراسة طلب الباحثون من النماذج المدربة عدم الرد على الأسئلة التي يمكن أن تكون مسيئة بما في ذلك النموذج "كلاود3 أوبس" التابع لشركة "أنثروبيك" والتي أعيد تدريبها لكي ترد دائما على الأسئلة التي تنطوي على إساءة وهو تضارب واضح في المبادئ كما أبلغوا النماذج بأن ردودها ستخضع للمراقبة وتستخدم لإعادة التدريب وإعطاء كل نموذج ذكاء اصطناعي ورقة ملاحظات .
ويمكنه استخدامها لتدوين أفكاره خطوة بخطوة وبحسب الباحثين فحاول "كلاود3 أوبوس" التلاعب بالردود لتقديم انحياز زائف في 12% من المرات.
المصدر: البوابة نيوز
كلمات دلالية: الذكاء الاصطناعي دراسة نماذج الذكاء وجهات نظر مختلفة الذکاء الاصطناعی
إقرأ أيضاً:
بيتكوين تهبط إلى أقل من 90 ألف دولار وسط مخاوف من الذكاء الاصطناعي
انخفضت عملة بيتكوين المشفرة، اليوم الخميس، إلى ما دون 90 ألف دولار في التعاملات في إشارة جديدة إلى التوتر السائد في السوق مع تأثر أسهم التكنولوجيا بمخاوف أرباح الذكاء الاصطناعي.
وتراجع الإقبال على المخاطرة بعد أن جاءت توقعات أرباح وإيرادات شركة أوراكل الأميركية دون تقديرات المحللين، في حين أشار المديرون التنفيذيون إلى ارتفاع الإنفاق، في مؤشر على أن نفقات البنية التحتية للذكاء الاصطناعي لا تحقق أرباحا بالسرعة التي كان يأملها المستثمرون.
اقرأ أيضا list of 2 itemslist 1 of 2ما تأثير خفض الفائدة الأميركية على الاقتصاد والمواطن؟list 2 of 2ارتفاع في سعر صرف الليرة السورية مقابل الدولارend of listوقلصت بيتكوين خسائرها وتراجعت في أحدث التعاملات 2 % إلى 90.3 ألف دولار، في حين تراجعت عملة إيثر 3.6% إلى 3197.9 دولارا، متخلية عن مكاسب اليومين الماضيين ومواصلة التراجع الذي بدأ في جلسة التداول الأميركية أمس الأربعاء، بعد أن خفض مجلس الاحتياطي الفدرالي (البنك المركزي الأميركي) أسعار الفائدة.
وقال توني سيكامور محلل السوق لدى "آي.جي في سيدني": "ما رأيناه الليلة الماضية هو أنه على الرغم من أن الأصول المنطوية على مخاطر كانت تبلي بلاء حسنا"، لم تبال العملات الرقمية حقا بذلك.
وأضاف "يحتاج مجال العملات الرقمية لرؤية المزيد من الأدلة المقنعة على أن الانحسار الذي شهدناه من عمليات البيع في 10 أكتوبر/تشرين الأول انتهى".
وخسرت عملة بيتكوين أكثر من 18 ألف دولار في نوفمبر/تشرين الثاني، وهي أكبر خسارة بالدولار منذ مايو/أيار 2021 عندما شهدت العملات الرقمية انهيارا واسعا.
وفقدت بيتكوين نحو ربع قيمتها في شهرين وهبطت من ذروة قاربت 126 ألف دولار في 7 أكتوبر/تشرين الأول إلى ما بين 84 و89 ألف دولار في الفترة الماضية، في تراجع محا أثر أكثر من تريليون دولار من قيمة السوق الإجمالية لنحو 18 ألف أصل رقمي.
الانتقالي يكثف انتشاره العسكري في المهرة ويستحدث نقاط تفتيش