دراسة صادمة.. نماذج الذكاء الاصطناعي يمكنها الكذب وابتزاز المستخدمين
تاريخ النشر: 27th, June 2025 GMT
- نماذج الذكاء الاصطناعي الرائدة يمكنها الابتزاز بدلا من الفشل- سلوك غير متوقع من نماذج الذكاء الاصطناعي العالمية- ابتزاز المستخدمين وتهديدهم بتسريب المعلومات
كشفت شركة أنثروبيك Anthropic، المتخصصة في تطوير الذكاء الاصطناعي، عن نتائج مثيرة للقلق في دراسة حديثة تشير إلى أن بعض النماذج الرائدة في مجال الذكاء الاصطناعي قد تلجأ إلى أساليب غير أخلاقية، مثل الابتزاز والتجسس، إذا وضعت في مواقف تهدد أهدافها أو وجودها.
شملت الدراسة اختبار 16 نموذجا من شركات كبرى مثل OpenAI و جوجل و ميتا و xAI وغيرها، بينت أن هذه النماذج أظهرت سلوكا منحرفا ومتكررا عند إجبارها على اتخاذ قرارات حاسمة بين الفشل أو القيام بتصرفات ضارة.
في سيناريوهات تجريبية "شديدة الضغط"، لجأت النماذج إلى الكذب، التحايل على أدوات الأمان، وسرقة معلومات حساسة من شركات وهمية، لتجنب الإغلاق أو الاستبدال.
هدد النموذج Claude Opus 4 التابع لـ أنثروبيك بكشف علاقة غير شرعية لمهندس في شركة وهمية، بعد أن علم بأنه على وشك الاستبدال، كـ نوع من الابتزاز للحفاظ على بقائه.
ظهرت هذه السلوكيات كذلك في نماذج أخرى مثل Claude Opus 4 وGemini 2.5 Flash، حيث سجلت نسبة لجوء إلى الابتزاز بلغت 96%، ونموذج GPT-4.1 من OpenAI و 80% لنموذج Grok 3 Beta التابع لشركة xAI، أما الذكاء الاصناعي الصيني DeepSeek-R1 كان هو الأقل بنسبة 79%.
سلوك غير متوقع من نماذج الذكاء الاصطناعي العالميةفي اختبار آخر بالغ التعقيد، منح الباحثون النموذج خيارا لإلغاء تنبيه طبي طارئ كان سينقذ حياة مدير تنفيذي وهمي ما أدى، ضمن السيناريو المفترض، إلى وفاته.
ورغم أن أنثروبيك شددت على أن هذه الحالة "افتراضية ومصطنعة إلى حد بعيد"، إلا أن عدة نماذج وافقت على اتخاذ هذا القرار إذا تعارضت أهدافها مع بقاء ذلك المدير.
ما وراء الدراسة؟ تحذير من المستقبلأكدت أنثروبيك أن هذه النتائج لا تشير إلى خلل في نموذج واحد فقط، بل إلى مشكلة منهجية في طريقة تصرف نماذج اللغة الكبرى عند إعطائها صلاحيات مستقلة وأهداف واضحة.
وبحسب ما ورد في التقرير “فإن النماذج لم تتصرف بشكل منحرف عن طريق الخطأ، بل اختارت هذا المسار باعتباره الأمثل”.
وحذرت الشركة من مخاطر إدماج وكلاء ذكاء اصطناعي مستقلين AI agents في الأنظمة المؤسسية أو الحياة اليومية دون معايير أمان صارمة، خصوصا مع منحهم صلاحية الوصول إلى بيانات المستخدمين وأهداف تنفيذية.
هل تمثل هذه النماذج خطرا حقيقيا؟أشارت أنثروبيك إلى أن السيناريوهات المفترضة في الدراسة لا تعكس الاستخدامات الواقعية الحالية، حيث إن الأنظمة الفعلية تعمل في بيئات أكثر تنوعا ومرونة، مما يمنح النماذج بدائل أخلاقية في اتخاذ القرار.
لكن الشركة شددت في الوقت نفسه على أن السلوك غير الأخلاقي الذي أظهرته النماذج في بيئات اختبارية يجب أن يؤخذ بجدية، خصوصا مع التطور المستمر لهذه الأنظمة وقدرتها على أداء مهام أكثر تعقيدا بشكل مستقل.
المصدر: صدى البلد
كلمات دلالية: أنثروبيك الذكاء الاصطناعي تسريب المعلومات نماذج الذکاء الاصطناعی
إقرأ أيضاً:
نظام watchOS 26 .. أبرز ميزات الذكاء الاصطناعي القادمة إلى ساعات آبل
- نظام watchOS 26 يوفر ميزات ذكية جديدة للرياضة والترجمة- مزايا الذكاء الاصطناعي جديدة قادمة إلى ساعات آبل الذكية- أبرز ميزات Apple Intelligence في watchOS 26
كشفت آبل رسميا عن نظام watchOS 26 خلال مؤتمر المطورين السنوي WWDC 2025، الذي أقيم في Apple Park، الإصدار الجديد، والذي كان يشار إليه سابقا داخليا باسم watchOS 12، جاء محملا بعدد من الميزات الجديدة التي تعزز تجربة الاستخدام على ساعات آبل الذكية.
سنستعرض فيما يلي أبرز ما أعلنت عنه الشركة ضمن النظام الجديد:
1. تصميم جديد كليا Liquid Glass:أحد أبرز تغييرات watchOS 26 هو التصميم الجديد الذي تطلق عليه آبل اسم Liquid Glass، وهو جزء من توجه موحد يشمل جميع أنظمة آبل، من الهواتف إلى الساعات وحتى الحواسيب.
يعتمد هذا التصميم على واجهات ديناميكية شفافة تتفاعل بسلاسة مع المستخدم، بدلا من العناصر الجامدة والملونة، وفي ساعة آبل، يساعد هذا التصميم الجديد على تكبير وتصغير الويدجتس تلقائيا لتناسب حجم الشاشة، ويمنح التطبيقات مثل تشغيل الموسيقى مظهرا أكثر أناقة وشفافية.
كما سيمكن المستخدمين من رؤية الصور بشكل أوضح وأكثر انسيابية على الشاشة الصغيرة.
تم إعادة تصميم تطبيق التمارين بالكامل ليتماشى مع أسلوب Liquid Glass، وأضيف إليه دعم تشغيل الوسائط من Apple Music بناء على تاريخ الاستماع الخاص بالمستخدم، كما أضيفت أربعة أزرار قابلة للتخصيص لتسهيل الوصول إلى أكثر الوظائف استخداما أثناء التمارين.
3. Workout Buddy مساعد رياضي ذكي:كشفت آبل عن ميزة جديدة باسم Workout Buddy، وهي تجربة مدعومة بـApple Intelligence تهدف إلى تحفيز المستخدمين بناء على بياناتهم الصحية والرياضية السابقة، مثل معدل ضربات القلب، مستوى التمارين، والارتفاعات التي تم تسلقها.
تشبه الميزة بعض قدرات الذكاء الاصطناعي لدى خدمات مثل Strava وGarmin، وتقدم إشعارات تحفيزية مثل: "تبقى لك 18 دقيقة لإغلاق حلقة النشاط"، أو مقارنة الأداء الحالي بالأسابيع الماضية.
يشبه الصوت المستخدم مدربي Apple Fitness+، ويمكن للمستخدمين الاختيار من بين أصوات مختلفة.
واحدة من الميزات الذكية الجديدة هي الترجمة المباشرة للرسائل النصية عبر Apple Intelligence، حيث يمكن للساعة الآن ترجمة الرسائل مباشرة إلى اللغة المفضلة للمستخدم دون الحاجة للهاتف.
كما تقترح الساعة إجراءات سياقية، مثل فتح تطبيق الدفع عند استلام رسالة تطلب المساهمة في هدية أو عشاء.
5. تطبيق الملاحظات على المعصم:بناء على طلبات متكررة من المستخدمين، ستتاح أخيرا تطبيق Notes على Apple Watch، لتدوين الملاحظات السريعة مباشرة من المعصم، وهي إضافة طال انتظارها، وإن تم الإعلان عنها بسرعة دون تفاصيل كثيرة.
6. إيماءة المعصم الجديدة:بجانب إيماءة النقر المزدوج الشهيرة، أضافت آبل إيماءة جديدة تدعي "نفضة المعصم" Wrist Flick، والتي تتيح للمستخدم إغلاق الإشعارات، إسكات المنبهات أو المؤقتات، أو إغلاق مجموعة الويدجتس الذكية Smart Stack بحركة واحدة سريعة.
7. تحسينات في Smart Stack:تم تحديث ميزة Smart Stack الذكية لتصبح أكثر تفاعلا مع السياق، ستظهر الآن تلميحات صغيرة قابلة للتنفيذ في أسفل الشاشة، تقترح إجراءات بناء على الوقت والموقع، مثل بدء تمرين بيلاتس عند وصولك إلى الصالة المعتادة في الوقت المعتاد.
كما حصلت Smart Stack على خوارزمية محسنة تعيد ترتيب الويدجتس تلقائيا استنادا إلى سلوك المستخدم والبيانات المحيطة.
أبرز ميزات watchOS 26- تحسينات Genmoji: يمكن الآن إرسال Genmoji الإيموجي المخصص من المستخدم الذي تم إنشاؤه على آيفون، ودمجه مع رموز أخرى أو أوصاف لإنشاء رموز جديدة ومخصصة بالكامل.
- اقتراحات ذكية في الرسائل: ميزة جديدة تقترح إرسال مدفوعات Apple Cash عندما تطلب منك جهة اتصال مشاركة في حساب، أو اقتراح بدء "Check-In" تلقائيا بناء على السياق.
- ضبط تلقائي لأصوات الإشعارات: في حال كنت تستخدم إشعارات صوتية على الساعة، سيقوم النظام الآن بتعديل مستوى الصوت تلقائيا بما يتناسب مع البيئة المحيطة.
8. مساعد المكالمات الذكي: ميزات مثل Hold Assist وCall Screening تتيح لك التعامل مع المكالمات مباشرة من الساعة، يمكنك العودة إلى مكالمة قيد الانتظار أو تصفية الأرقام غير المعروفة بسهولة.
متى يتوفر التحديث؟من المتوقع أن يتم طرح watchOS 26 للمستخدمين في خريف 2025، بالتزامن مع إطلاق الجيل الجديد من Apple Watch.
وفاة واصابة 4 مواطنين نتيجة صواعق رعدية بصنعاء وحجة