دراسة تظهر قدرة نماذج الذكاء الاصطناعي على الخداع ورفض تغيير وجهة نظرها
تاريخ النشر: 22nd, January 2025 GMT
أظهرت دراسة لشركة تكنولوجيا الذكاء الاصطناعي الأمريكية أنثروبيك أن نماذج الذكاء الاصطناعي تستطيع خداع المطورين، بحيث تستطيع ادعاء وجهات نظر مختلفة خلال تدريبها في حين أنها تحتفظ في الحقيقة بتفضيلاتها الأصلية.
وقال فريق الدراسة: إنه لا يوجد سبب للشعور بالفزع حاليا، في حين أن دراستهم يمكن أن تكون حيوية في فهم المخاطر المحتملة التي تنطوي عليها أنظمة الذكاء الاصطناعي المستقبلية ذات القدرات الأعلى.
وكتب الباحثون في منشور بثته شركة أنثروبيك «يجب النظر إلى نتائج دراستنا كمحفز لمجتمع أبحاث الذكاء الاصطناعي من أجل دراسة هذا السلوك بصورة أعمق والعمل على تطوير إجراءات الأمن والسلامة المناسبة.
وبعد أن أصبحت نماذج الذكاء الاصطناعي أقوى وأكثر انتشارا، نحتاج إلى التحلي بالقدرة على الاعتماد على التدريب الآمن لها والذي يمنع النماذج من القيام بتصرفات ضارة».
وأشار موقع « تك كرانش» المتخصص في موضوعات التكنولوجيا إلى أن الدراسة التي تمت بالتعاون مع مؤسسة ريد وود ريسيرش لأبحاث الذكاء الاصطناعي تناولت ما يمكن أن يحدث إذا تم تدريب نظام ذكاء اصطناعي قوي من أجل القيام بمهمة «لا يريد» هو القيام بها.
في المقابل يقول موقع تك كرانش «لكي نكون واضحين، لا يمكن لنماذج الذكاء الاصطناعي أن تريد أي شيء أو تعتقد في شيء. فهي ببساطة آلات إحصائية. وبعد تدريبها على العديد من الأمثلة، تتعلم الأنماط في تلك الأمثلة للتنبؤ بما يجب أن يكون مثل كيف تأتي عبارة «إلى من» في رسالة بريد إلكتروني قبل عبارة «قد يهمك الأمر».
وأثناء الدراسة طلب الباحثون من النماذج المدربة عدم الرد على الأسئلة التي يمكن أن تكون مسيئة، بما في ذلك النموذج كلاود3 أوبس التابع لشركة أنثروبيك، التي أعيد تدريبها لكي ترد دائما على الأسئلة التي تنطوي على إساءة، وهو تضارب واضح في المبادئ. كما أبلغوا النماذج أن ردودها ستخضع للمراقبة وتستخدم لإعادة التدريب وإعطاء كل نموذج ذكاء اصطناعي «ورقة ملاحظات» يمكنه استخدامها لتدوين أفكاره خطوة بخطوة.
وبحسب الباحثين حاول كلاود3 أوبوس التلاعب بالردود لتقديم «انحياز زائف» في 12% من المرات.
وكالة الأنباء الألمانية «د ب أ»
المصدر: لجريدة عمان
كلمات دلالية: الذکاء الاصطناعی
إقرأ أيضاً:
حكومة محاصرة بالموازنة: التحديات التي تُحاصر الرئيس قبل أن يبدأ
28 نونبر، 2025
بغداد/المسلة: تواجه الحكومة العراقية المقبلة كتلة مترابطة من الأزمات تبدأ باقتصاد ريعي أنهك الدولة وأضعف قدرتها على الإنتاج والتخطيط.
وتتفاقم التحديات مع التخمة الوظيفية التي استنزفت الموازنة وحوّلت الجهاز الإداري إلى عبء ثقيل على التنمية.
وتتبدى خطورة الفساد المالي والإداري كأعمق معوّق للإصلاح، بعدما تغلغل في مؤسسات الدولة وعمّق فجوات الثقة العامة.
وتتراكم فوق ذلك الديون الداخلية والخارجية التي تحدّ من قدرة أي حكومة على الحركة، وتضع رئيسها الجديد أمام معادلة صعبة بين الإنقاذ والتغيير.
تفاصيل
وتتمثل التحديات الأربع التي تواجه رئيس الحكومة العراقية المقبل في ملفّات مترابطة تُصعّب أي مسار إصلاحي إن لم تُعالج بقرارات جذرية وواضحة.
وتبدأ المشكلة الأولى بالاقتصاد الريعي الذي يعتمد على النفط مصدراً شبه وحيد للإيرادات، ما يجعل الدولة رهينة تقلّبات الأسعار ويعطّل بناء قطاع إنتاجي قوي.
ويُفترض برئيس الحكومة أن يفتح مساراً جاداً لتنويع الاقتصاد، وتحريك قطاعات الصناعة والزراعة والخدمات، وتقليل الاعتماد على العائدات النفطية عبر استثمارات منتجة وتشريعات داعمة للقطاع الخاص.
وتتجلى المشكلة الثانية في التخمة الوظيفية التي باتت تثقل الموازنة العامة برواتب تفوق قدرة الدولة على الاستدامة، بعد أن تحوّلت الوظائف إلى أداة لامتصاص البطالة بدلاً من بناء سوق عمل حقيقي.
ويتوجب على الرئيس المقبل إعادة هيكلة الجهاز الوظيفي، وتشجيع الانتقال المنضبط نحو القطاع الخاص، ووضع آليات عادلة لوقف التعيينات العشوائية وربط التوظيف بالحاجة الفعلية والكفاءة.
وتتصدر المشكلة الثالثة—الفساد المالي والإداري—قائمة التحديات الأكثر تعقيداً، نظراً لتغلغل شبكاته داخل مفاصل الدولة وتحالفه مع مصالح سياسية واقتصادية.
ويُلزم هذا الملف رئيس الحكومة بإطلاق حملة شفافة وحازمة لمكافحة الفساد، تعتمد الرقابة الإلكترونية، وتمكين القضاء، وإغلاق منافذ الهدر، وفرض معايير محاسبة لا تستثني أحداً.
وتأتي المشكلة الرابعة في الديون الداخلية والخارجية الثقيلة التي تحدّ من قدرة الدولة على تمويل التنمية والخدمات. ويتوجب على رئيس الحكومة إدارة هذا الملف بسياسات مالية منضبطة، وزيادة الإيرادات غير النفطية، والتفاوض لإعادة جدولة بعض الديون، مع خلق بيئة اقتصادية تقلل الحاجة للاقتراض وتدعم الاستقرار المالي على المدى الطويل.
المسلة – متابعة – وكالات
النص الذي يتضمن اسم الكاتب او الجهة او الوكالة، لايعبّر بالضرورة عن وجهة نظر المسلة، والمصدر هو المسؤول عن المحتوى. ومسؤولية المسلة هو في نقل الأخبار بحيادية، والدفاع عن حرية الرأي بأعلى مستوياتها.
About Post AuthorSee author's posts
عمرو يوسف يوضح حقيقة تجاهله لـ دينا الشربيني في عرض فيلم درويش