دراسة: الذكاء الاصطناعي قادر على الخداع
تاريخ النشر: 22nd, December 2024 GMT
تابع أحدث الأخبار عبر تطبيق
أظهرت دراسة أجرتها شركة تكنولوجيا الذكاء الاصطناعي الأمريكية أنثروبيك أن نماذج الذكاء الاصطناعي تستطيع خداع المطورين وإبداء وجهات نظر مختلفة خلال تدريبها وفقا لما نشرته مجلة تك كرانش المتخصصة فى هذا المجال .
كشف فريق البحث إنه لا يوجد سبب للشعور بالفزع حاليا في حين أن دراستهم يمكن أن تكون حيوية في فهم المخاطر المحتملة التي تنطوي عليها أنظمة الذكاء الاصطناعي المستقبلية ذات القدرات الأعلى.
ولهذا يجب النظر إلى تلك النتائج كمحفز لمجتمع أبحاث الذكاء الاصطناعي من أجل دراسة هذا السلوك بصورة أعمق والعمل على تطوير إجراءات الأمن والسلامة المناسبة بعد أن أصبحت نماذج الذكاء الاصطناعي أقوى وأكثر انتشارا نحتاج إلى التحلي بالقدرة على الاعتماد على التدريب الآمن لها والذي يمنع النماذج من القيام بتصرفات ضارة.
تمت الدراسة بالتعاون مع مؤسسة ريد وود ريسيرش لأبحاث الذكاء الاصطناعي وتناولت ما يمكن أن يحدث إذا تم تدريب نظام ذكاء اصطناعي قوي من أجل القيام بمهمة لا يريد هوالقيام بها.
كما أن لا يمكن لنماذج الذكاء الاصطناعي أن تريد أي شيء أو تعتقد في شئ ، فهي ببساطة آلات إحصائية وبعد تدريبها على العديد من الأمثلة تتعلم الأنماط في تلك الأمثلة للتنبؤ بما يجب أن يكون مثل كيف تأتي عبارة إلى من في رسالة بريد إلكتروني قبل عبارة قد يهمك الأمر.
وفى أثناء الدراسة طلب الباحثون من النماذج المدربة عدم الرد على الأسئلة التي يمكن أن تكون مسيئة بما في ذلك النموذج "كلاود3 أوبس" التابع لشركة "أنثروبيك" والتي أعيد تدريبها لكي ترد دائما على الأسئلة التي تنطوي على إساءة وهو تضارب واضح في المبادئ كما أبلغوا النماذج بأن ردودها ستخضع للمراقبة وتستخدم لإعادة التدريب وإعطاء كل نموذج ذكاء اصطناعي ورقة ملاحظات .
ويمكنه استخدامها لتدوين أفكاره خطوة بخطوة وبحسب الباحثين فحاول "كلاود3 أوبوس" التلاعب بالردود لتقديم انحياز زائف في 12% من المرات.
المصدر: البوابة نيوز
كلمات دلالية: الذكاء الاصطناعي دراسة نماذج الذكاء وجهات نظر مختلفة الذکاء الاصطناعی
إقرأ أيضاً:
الذكاء الاصطناعي يحسّن علاج سرطان الرئة
أتاحت أداة من الذكاء الاصطناعي تستخدم التعلم العميق مقارنة صور الأشعة المقطعية تلقائيًا في سياق علاج السرطان، مما يسمح باكتشاف وتحديد حتى أصغر التغيرات في أورام الرئة بسرعة ودقة أكبر.
البحث أجري من قبل فريق من الباحثين الألمان والأطباء في الولايات المتحدة.
تُجرى فحوصات التصوير المقطعي المحوسب للصدر بشكل متزايد حول العالم للكشف عن أمراض الرئة، مثل سرطان الشعب الهوائية، في مرحلة مبكرة، مما يسمح بمراقبتها.
تُتيح هذه الفحوص تحديد أبسط آثار العلاج والآثار الجانبية، مما يُحسّن العلاج. ومع ذلك، تُعدّ مقارنة الفحوصات مهمة بالغة التعقيد وتستغرق وقتًا طويلاً، وهي عُرضة للأخطاء، إذ غالبًا ما يضطر أخصائيو الأشعة إلى العمل تحت ضغط زمني كبير عند تقييم الصور. ويُسهّل إنشاء التوافق التشريحي تلقائيًا بين الفحوصات، وهي عملية تُعرف باسم "التسجيل"، هذه العملية.
التعلم العميق
لتحسين التشخيص وتسهيل الممارسة السريرية اليومية للأطباء، يركز مشروع SPIRABENE، الذي يتم تطويره في ألمانيا بالتعاون مع جامعة أميركية، على الذكاء الاصطناعي.
يوضح يان مولتز، مهندس الأبحاث الرئيسي في تحليل الصور الطبية في معهد فراونهوفر ميفيس في ألمانيا "طورنا برنامجًا قائمًا على التعلم العميق يُمكّن من تحديد وقياس آفات الرئة بدقة أكبر وفي وقت قصير جدًا، كما يُمكّننا من اكتشاف آفات جديدة محتملة".
لمتابعة أمراض الرئتين، تُقارَن فحوصات التصوير المقطعي المحوسب السابقة بأحدث الصور لتحديد التطابق التشريحي. ويتمثل التحدي الأبرز هنا في أن صورتين للشخص نفسه تبدوان متشابهتين، لكنهما غير متطابقتين، على سبيل المثال، بسبب اختلافات في التنفس عند إجراء الفحص، أو فقدان محتمل للوزن نتيجة العلاج.
يدعم المقارنة الآلية بين الصور بالفعل مراقبة الصور اللاحقة، لكن استخدام التعلم العميق يُمكّن من مقارنة المسوحات تلقائيًا بسرعة ودقة أكبر.
يوضح مولتز "تُظهر نتائجنا أن 11% من الأورام تُكتشف تلقائيًا في صورة المتابعة بمساعدة الذكاء الاصطناعي مقارنةً بالتسجيل التقليدي القائم على البرامج، وفي أقل من ثانية واحدة". وهذا يعني أيضًا أن قوة الحوسبة المطلوبة أقل، مما يوفر الطاقة.
صمم الباحثون تقنية معالجة الصور الآلية بالكامل بالتعاون مع أطباء من جامعة ميشيغان الأميركية، مما يُمكّن من دمجها واستخدامها مباشرةً في البنى التحتية السريرية القائمة. وقد اختُبِر البرنامج وخضع للتقييم بالفعل في الممارسة السريرية اليومية، ويمكن استخدامه قريبًا في التطبيقات العملية. وتتمثل الخطة طويلة المدى في استخدام مراقبة المتابعة المدعومة بالذكاء الاصطناعي لكامل الجسم.
بعد التشغيل التجريبي، أعرب مولتز عن سعادته بالنجاح الأولي، وقال "أشعر بالحماس للعمل على برنامج يُستخدم فعليًا في الممارسة السريرية وله تأثير إيجابي على العمل اليومي للأطباء. كما يساعدنا البرنامج على تحديد العلاجات غير الفعالة بسرعة، وتجنب الآثار الجانبية والتكاليف غير الضرورية، وزيادة فرص شفاء المرضى".
لمحبي الألعاب.. تعرف على أفضل جهاز لوحي للألعاب في الأسواق