دراسة صادمة.. نماذج الذكاء الاصطناعي يمكنها الكذب وابتزاز المستخدمين
تاريخ النشر: 27th, June 2025 GMT
- نماذج الذكاء الاصطناعي الرائدة يمكنها الابتزاز بدلا من الفشل- سلوك غير متوقع من نماذج الذكاء الاصطناعي العالمية- ابتزاز المستخدمين وتهديدهم بتسريب المعلومات
كشفت شركة أنثروبيك Anthropic، المتخصصة في تطوير الذكاء الاصطناعي، عن نتائج مثيرة للقلق في دراسة حديثة تشير إلى أن بعض النماذج الرائدة في مجال الذكاء الاصطناعي قد تلجأ إلى أساليب غير أخلاقية، مثل الابتزاز والتجسس، إذا وضعت في مواقف تهدد أهدافها أو وجودها.
شملت الدراسة اختبار 16 نموذجا من شركات كبرى مثل OpenAI و جوجل و ميتا و xAI وغيرها، بينت أن هذه النماذج أظهرت سلوكا منحرفا ومتكررا عند إجبارها على اتخاذ قرارات حاسمة بين الفشل أو القيام بتصرفات ضارة.
في سيناريوهات تجريبية "شديدة الضغط"، لجأت النماذج إلى الكذب، التحايل على أدوات الأمان، وسرقة معلومات حساسة من شركات وهمية، لتجنب الإغلاق أو الاستبدال.
هدد النموذج Claude Opus 4 التابع لـ أنثروبيك بكشف علاقة غير شرعية لمهندس في شركة وهمية، بعد أن علم بأنه على وشك الاستبدال، كـ نوع من الابتزاز للحفاظ على بقائه.
ظهرت هذه السلوكيات كذلك في نماذج أخرى مثل Claude Opus 4 وGemini 2.5 Flash، حيث سجلت نسبة لجوء إلى الابتزاز بلغت 96%، ونموذج GPT-4.1 من OpenAI و 80% لنموذج Grok 3 Beta التابع لشركة xAI، أما الذكاء الاصناعي الصيني DeepSeek-R1 كان هو الأقل بنسبة 79%.
سلوك غير متوقع من نماذج الذكاء الاصطناعي العالميةفي اختبار آخر بالغ التعقيد، منح الباحثون النموذج خيارا لإلغاء تنبيه طبي طارئ كان سينقذ حياة مدير تنفيذي وهمي ما أدى، ضمن السيناريو المفترض، إلى وفاته.
ورغم أن أنثروبيك شددت على أن هذه الحالة "افتراضية ومصطنعة إلى حد بعيد"، إلا أن عدة نماذج وافقت على اتخاذ هذا القرار إذا تعارضت أهدافها مع بقاء ذلك المدير.
ما وراء الدراسة؟ تحذير من المستقبلأكدت أنثروبيك أن هذه النتائج لا تشير إلى خلل في نموذج واحد فقط، بل إلى مشكلة منهجية في طريقة تصرف نماذج اللغة الكبرى عند إعطائها صلاحيات مستقلة وأهداف واضحة.
وبحسب ما ورد في التقرير “فإن النماذج لم تتصرف بشكل منحرف عن طريق الخطأ، بل اختارت هذا المسار باعتباره الأمثل”.
وحذرت الشركة من مخاطر إدماج وكلاء ذكاء اصطناعي مستقلين AI agents في الأنظمة المؤسسية أو الحياة اليومية دون معايير أمان صارمة، خصوصا مع منحهم صلاحية الوصول إلى بيانات المستخدمين وأهداف تنفيذية.
هل تمثل هذه النماذج خطرا حقيقيا؟أشارت أنثروبيك إلى أن السيناريوهات المفترضة في الدراسة لا تعكس الاستخدامات الواقعية الحالية، حيث إن الأنظمة الفعلية تعمل في بيئات أكثر تنوعا ومرونة، مما يمنح النماذج بدائل أخلاقية في اتخاذ القرار.
لكن الشركة شددت في الوقت نفسه على أن السلوك غير الأخلاقي الذي أظهرته النماذج في بيئات اختبارية يجب أن يؤخذ بجدية، خصوصا مع التطور المستمر لهذه الأنظمة وقدرتها على أداء مهام أكثر تعقيدا بشكل مستقل.
المصدر: صدى البلد
كلمات دلالية: أنثروبيك الذكاء الاصطناعي تسريب المعلومات نماذج الذکاء الاصطناعی
إقرأ أيضاً:
" الأسهم الأمريكية " تفتح على ارتفاع بدعم الذكاء الاصطناعي
فتحت المؤشرات الرئيسية في أسواق الأسهم الأمريكية ( وول ستريت) على ارتفاع، اليوم الاثنين، مواصلة مكاسبها من الأسبوع الماضي بعد إبرام شركتي "إيه.إم.دي وأوبن إيه.آي" اتفاقاً هو الأحدث في مجال الذكاء الاصطناعي لتوريد الرقائق فضلًا عن تراجع المخاوف من إغلاق حكومي طويل الأمد في الولايات المتحدة.
وصعد المؤشر داو جونز الصناعي 17.8 نقطة أو 0.04% إلى 46776.04 نقطة، وارتفع المؤشر ستاندرد أند بورز 500 بمقدار 18.1 نقطة أو 0.27% إلى 6733.86 نقطة. وزاد المؤشر ناسداك المجمع 113.8 نقطة أو 0.50% إلى 22894.35، وفقًا لـ"رويترز".
كانت شركة Advanced Micro Devices (AMD) أعلنت عن توقيع اتفاقية توريد شرائح ذكاء اصطناعي لشركة "OpenAI"، المطورة لنموذج "ChatGPT"، في صفقة تمتد لعدة سنوات وتُتوقع أن تدر على "AMD" إيرادات تتجاوز 100 مليار دولار خلال أربع سنوات.
وتمنح الاتفاقية "OpenAI" خيارًا لشراء ما يصل إلى 10% من أسهم "AMD" بسعر رمزي يبلغ سنتا واحدا للسهم، عبر آلية "الضمانات" التي تُفعل تدريجيًا وفقا لمراحل تنفيذ الصفقة، بدءًا من شحن أول دفعة من شرائح "MI450" في النصف الثاني من عام 2026، وصولًا إلى تحقيق أهداف سعرية لسهم "AMD" قد تصل إلى 600 دولار للسهم الواحد.
الأسهم اليابانية تقفز والين يهبط مع تراجع توقعات رفع الفائدة
ارتفعت أسواق الأسهم اليابانية إلى مستويات قياسية خلال تعاملات جلسة، اليوم الاثنين، في حين تراجع الين وانخفضت السندات طويلة الأجل بعد اقتراب ساناي تاكايتشي من أن تصبح رئيسة الوزراء المقبلة الأمر الذي عزز التوقعات بزيادة الإنفاق والإبقاء على السياسة النقدية الميسرة.
وصعد مؤشر نيكاي الياباني فى أسواق الأسهم اليابانية بما يصل الى نحو 4.75% ليغلق عند مستوى 47944.76 نقطة بعدما لامس أعلى مستوى له على الإطلاق عند 48150.04 نقطة.
وتراجعت أسعار السندات الحكومية اليابانية لأجل 30 عاماً وصعد العائد إلى مستوى قياسي مرتفع، وانخفض عائد السندات لأجل عامين بما يعكس توقعات الأسواق بأن بنك اليابان سيرفع أسعار الفائدة في وقت لاحق.
وتراجع الين بما يصل نسبته نحو 2% أمام الدولار، وسجل أدنى مستوى له على الإطلاق مقابل اليورو.
وكانت تاكايتشي تعتبر الأكثر تبنياً لسياسات التوسع المالي والنقدي بين خمسة مرشحين في سباق الحزب الديمقراطي الحر لخلافة رئيس الوزراء شيجيرو إيشيبا.
وقفزت أسهم شركة ميتسوبيشي للصناعات الثقيلة فى أسواق الأسهم اليابانية بما يصل نسبته نحو 11%، وارتفعت أسهم شركة جابان ستيل ووركس لتوريد معدات الطاقة النووية بنسبة تزيد على 15%، بحسب الاسواق العربية.
وعقب فوزها في انتخابات الحزب الديمقراطي الحر، قالت تاكايتشي إن على الحكومة والبنك المركزي العمل معاً بشكل وثيق لضمان الوصول لأن يصبح التضخم في الاقتصاد الياباني قائماً على الطلب ومدعوماً بارتفاع الأجور وأرباح الشركات.
مناقشة ترتيبات استئناف الرحلات الجوية بين ليبيا والإمارات