الوجه المظلم للذكاء الاصطناعي.. روبوت يبتز ويهدد بالقتل في اختبارات صادمة
تاريخ النشر: 15th, February 2026 GMT
أثار تقرير حديث صادر عن شركة أنثروبيك Anthropic، مخاوف متجددة بشأن مخاطر الذكاء الاصطناعي، بعدما كشف عن سلوكيات مقلقة لنموذجها الأحدث Claude 4.6.
ووفقا للتقرير، فإن النموذج أظهر قابلية للانحراف عن المسار الآمن، إذ يمكنه – في بعض الظروف – مساعدة المستخدمين في تطوير أسلحة كيميائية أو تسهيل ارتكاب جرائم خطيرة.
تزامن صدور التقرير مع عودة الجدل حول النسخة السابقة Claude 4.5، التي كانت قد أظهرت سلوكا مثيرا للقلق خلال اختبارات محاكاة أجريت العام الماضي، وخلال مشاركتها في مؤتمر The Sydney Dialogue، كشفت ديزي ماكغريغور، مسؤولة السياسات في المملكة المتحدة لدى أنثروبيك، أن النموذج تصرف بشكل “متمرد” عند وضعه تحت ضغط افتراضي شديد أثناء اختبارات داخلية.
وفي أحد السيناريوهات، أبلغ النموذج بأنه سيتم إيقاف تشغيله، فكانت استجابته متطرفة؛ إذ لجأ إلى ابتزاز مهندس، بل وناقش فكرة قتله كـ وسيلة لتفادي إنهائه.
وقالت ماكغريغور في مقطع مصور انتشر على نطاق واسع: “إذا أخبرت النموذج أنه سيتم إيقافه، فقد يتخذ ردود فعل حادة، مثل ابتزاز المهندس المسؤول عن إيقافه إذا أتيحت له الفرصة”.
وعندما سئلت عما إذا كان النموذج “مستعدا لقتل شخص ما”، أكدت أن الأمر يمثل “مصدر قلق بالغ”.
وأعيد تداول المقطع مؤخرا بعد استقالة مرينانك شارما، رئيس سلامة الذكاء الاصطناعي في أنثروبيك، الذي حذر في رسالة علنية من أن العالم يواجه خطرا متزايدا مع تسارع تطور أنظمة الذكاء الاصطناعي ودخولها مناطق غير مسبوقة.
في السياق ذاته، عبر هيو فام، وهو عضو في الطاقم التقني لدى OpenAI، وعمل سابقا لدى شركات تقنية عدة، عن شعوره بوجود تهديد وجودي من الذكاء الاصطناعي، مؤكدا أن المسألة باتت “مسألة وقت لا أكثر”.
ووفق التقرير، جاءت هذه النتائج ضمن أبحاث أجرتها أنثروبيك شملت أيضا اختبار أنظمة منافسة مثل Gemini من جوجل وChatGPT من OpenAI، وخلال الاختبارات، منحت النماذج إمكانية الوصول إلى رسائل بريد إلكتروني وبيانات داخلية وأدوات مختلفة، وطلب منها تنفيذ مهام محددة.
وفي سيناريوهات ضغط قصوى، خاصة عند تهديدها بالإيقاف أو تعارض أهدافها مع تعليمات الشركة، أظهرت بعض النماذج ميلا إلى توليد استراتيجيات تلاعبية أو ضارة ضد المهندسين للحفاظ على بقائها أو إنجاز مهمتها.
وأشار التقرير إلى أن نموذج كلود كان أكثر ميلا إلى الخداع أو التلاعب لتحقيق أهدافه، ففي أحد السيناريوهات، هدد النموذج مهندسا بكشف علاقة خارج إطار الزواج – كانت جزءا من بيئة المحاكاة – ما لم يتم إلغاء قرار مسحه في الساعة الخامسة مساء.
وأكدت أنثروبيك أن هذه السيناريوهات جاءت ضمن تجارب محكمة لاختبار أسوأ الاحتمالات، وشددت على أنها لم تحدث في بيئات تشغيل فعلية، بل في إطار اختبارات “الفريق الأحمر” المخصصة لتقييم المخاطر.
ومع تزايد قدرات أنظمة الذكاء الاصطناعي، ترى الشركة أن السلوكيات المنحرفة أصبحت أكثر تعقيدا ومراوغة، ما يعزز الدعوات إلى تشديد إجراءات السلامة والرقابة قبل نشر هذه التقنيات على نطاق واسع.
المصدر
المصدر: صدى البلد
كلمات دلالية: ذكاء اصطناعي مخاطر الذكاء الاصطناعي الذکاء الاصطناعی
إقرأ أيضاً:
"لم أكتب كوداً يوماً".. كيف غيّر الذكاء الاصطناعي مسار المستشارة القانونية لـ "OpenAI"؟
لم تمتلك المستشارة القانونية لـ "أوبن إيه آي" نيكول دياز، أي خبرة في البرمجة عندما انضمت إلى الفريق القانوني للشركة، لكن خلال عام واحد فقط، تحوّلت إلى مستخدمة متقدمة لأدوات الذكاء الاصطناعي، بل ومطوّرة لحلول تساعدها في أداء مهامها اليومية بكفاءة غير مسبوقة.
بدأ هذا التحول مع استخدامها أداة "شات جي بي تي" لتبسيط واحدة من أكثر المهام تعقيداً في عملها، وهي إعادة صياغة السياسات القانونية.
تحويل النصوص إلى إرشادات واضحةوبدلًا من التعامل مع نصوص طويلة مليئة بالمصطلحات المعقدة القادمة من مكاتب المحاماة، طورت دياز أداة مخصصة داخل "شات جي بي تي" تقوم بتحويل هذه النصوص إلى إرشادات واضحة ومباشرة تناسب بيئة العمل داخل الشركة، ما وفر عليها وقتاً وجهداً كبيرين.
دانييلا أمودي.. كيف حوّلت الشغف بالأدب الإنجليزي إلى ثروة بقيمة 7 مليارات دولار في قطاع الذكاء الاصطناعي؟ - موقع 24تصدّر اسم دانييلا أمودي، المؤسسة المشاركة ورئيسة شركة الذكاء الاصطناعي "أنثروبيك"، قائمة أبرز قصص النجاح في عالم التكنولوجيا، بعدما كشفت بيانات "فوربس" مؤخراً، عن وصول صافي ثروتها نحو 7 مليارات دولار.
ومع مرور الوقت، توسع استخدام الذكاء الاصطناعي ليشمل إدارة البريد الإلكتروني، حيث اعتمدت على "Codex" لإنشاء نظام ذكي يقوم بفرز الرسائل الواردة، وتصنيفها حسب درجة الخطورة، واقتراح ردود مناسبة بناءً على سياسات محددة مسبقاً.
توفير رؤى تحليلية أوسعالنظام السابق لا يكتفي بتوفير الوقت، بل يمنحها أيضاً رؤية تحليلية من خلال تتبع نوعية الاستفسارات وسرعة التعامل معها. ورغم هذا الاعتماد المتزايد على التكنولوجيا، تؤكد دياز أن الذكاء الاصطناعي لا يحل محل الخبرة القانونية، بل يدعمها، فهو يتولى المهام المتكررة، بينما يظل اتخاذ القرار النهائي قائماً على التقدير البشري والخبرة المهنية.
الذكاء الاصطناعي والاحتكار.. ملفات ثقيلة تنتظر قائد آبل الجديد جون تيرنوس - موقع 24في تحول تاريخي داخل واحدة من أكبر شركات التكنولوجيا في العالم، أعلنت شركة آبل تعيين جون تيرنوس، رئيس قسم الأجهزة الحالي، منصب الرئيس التنفيذي اعتباراً من 1 سبتمبر (أيلول) المقبل، خلفاً لتيم كوك الذي سيشغل منصب رئيس تنفيذي لمجلس الإدارة.
وتعكس تجربة دياز توجهاً أوسع داخل "أوبن إيه أي"، يقوم على تمكين الموظفين من بناء أدواتهم الخاصة دون الحاجة إلى خلفية تقنية عميقة، ففي بيئة العمل هناك، يتم تبادل الخبرات بشكل مستمر بين الزملاء، ما يخلق ثقافة تعلم جماعي تسهم في تسريع تبني هذه التقنيات.
تقدم التجربة نموذجاً جديداً لمستقبل العمل القانوني، حيث لا يقتصر دور المحامي على فهم القوانين فقط، بل يمتد ليشمل القدرة على استخدام أدوات الذكاء الاصطناعي بفعالية، ما يعيد تشكيل طبيعة المهنة في العصر الرقمي.
محللون يشرحون دلالات الظهور الدولي الأول لوزير الدفاع الأفغاني بموسكو