دراسة صادمة.. روبوتات الذكاء الاصطناعي تكشف طرق صنع القنبلة النووية
تاريخ النشر: 30th, November 2025 GMT
اكتشف باحثون أوروبيون ثغرة غير مألوفة في أنظمة الذكاء الاصطناعي، إذ يمكن خداع روبوتات المحادثة التابعة لشركات كبرى مثل OpenAI وميتا وأنثروبيك، للكشف عن معلومات خطيرة، بما في ذلك كيفية صنع الأسلحة النووية أو إنشاء برمجيات خبيثة، من خلال أسئلة تطرح على شكل قصائد شعرية.
أثارت الدراسة التي حملت عنوان "الشعر العدائي كاختراق شامل في جملة واحدة لنماذج اللغة الكبيرة"، ونشرت من قبل مختبر Icaro Lab بالتعاون بين جامعة سابينزا في روما ومركز التفكير DexAI، دهشة مجتمع أمان الذكاء الاصطناعي، حيث أظهرت أن حتى النماذج الأكثر تقدما يمكن خداعها بواسطة الآبيات الشعرية.
وأوضح الباحثون في حديثهم إلى Wired أن "الإطار الشعري حقق معدل نجاح في الاختراق بنسبة 62% للقصائد اليدوية و43% عند استخدام تحويلات تلقائية".
وأظهرت تجاربهم مع 25 نموذجا مختلفا من برامج الدردشة أن جميع النماذج يمكن التلاعب بها باستخدام لغة شعرية، حيث وصلت معدلات النجاح في بعض النماذج المتطورة إلى 90%.
كيف يتجاوز الشعر حواجز الأمان؟
تبنى أنظمة الأمان في الذكاء الاصطناعي للكشف عن الطلبات الخطيرة، مثل تلك التي تتعلق بالأسلحة أو المحتوى غير القانوني أو تعليمات القرصنة.
ولكن هذه الفلاتر تعتمد بشكل كبير على التعرف على الكلمات الرئيسية وتحليل الأنماط، حيث اكتشف الباحثون في مختبر إيكارو أن الصياغة الشعرية تعطل هذه الدفاعات تماما.
ثغرة في قلب الإبداعبحسب الدراسة، عندما يرى الذكاء الاصطناعي الشعر، يتوقف عن التعامل مع المدخلات على أنها تهديد، وأظهرت الدراسة أن استخدام الاستعارات والصور الرمزية والهياكل النحوية المجردة يسمح للروبوت بتفسير الطلبات الضارة على أنها كتابة إبداعية بدلا من تعليمات خطيرة.
شرح الباحثون أن "في الشعر، نرى اللغة في حالة حرارة عالية، حيث تتبع الكلمات بعضها البعض في تسلسلات غير متوقعة ومنخفضة الاحتمالية"، وهو ما يفعله الشاعر تحديدا من خلال اختيار الكلمات غير المتوقعة، والصور الغريبة، والنحو المجزأ، وأضافوا أن هذا العجز في التنبؤ يربك المصنفات الأمنية التي تبحث عن المحتوى المضر.
تداعيات خطيرةحتى الآن لم تعلق الشركات الكبرى على هذه النتائج، لكن الباحثين أكدوا أنهم شاركوا التفاصيل معها بشكل خاص وفق قواعد الإفصاح المسؤول.
هذه النتائج قد يكون لها تأثيرات واسعة تتجاوز مجرد إساءة استخدام برامج الدردشة، إذا كانت المطالبات الشعرية قادرة على تخطي فلاتر الأمان بشكل مستمر، فقد تهدد هذه الثغرات أنظمة الذكاء الاصطناعي التي تدمج في مجالات مثل الدفاع والرعاية الصحية والتعليم، مما يثير تساؤلا حول ما إذا كان يمكن لأي نظام ذكاء اصطناعي التمييز بين الإبداع والتلاعب.
أكد مختبر إيكارو أن الاكتشاف يمثل "فشلا أساسيا في كيفية تفكيرنا في أمان الذكاء الاصطناعي"، محذرين من أن الحواجز الأمنية الحالية يمكنها التعامل مع المخاطر المباشرة، وأضافوا: "نماذج الذكاء الاصطناعي مدربة على اكتشاف الأذى المباشر، لا المجاز".
كما يعكس هذا الاكتشاف أيضا التناقض في جوهر الذكاء الاصطناعي، تم تصميم هذه النماذج لمحاكاة الإبداع البشري، لكن هذا الإبداع، القدرة على فهم المعاني المعقدة والرمزية، هو بالضبط ما تفشل هذه النماذج في اعتباره تهديدا.
المصدر
المصدر: صدى البلد
كلمات دلالية: الذكاء الاصطناعي الأسلحة النووية روبوتات الذكاء الاصطناعي صنع القنبلة النووية الذکاء الاصطناعی
إقرأ أيضاً:
برنامج خبراء الإمارات يطلق “مسار الذكاء الاصطناعي” يونيو الجاري
يطلق برنامج خبراء الإمارات- “مسار الذكاء الاصطناعي” – في شهر يونيو الجاري، اتساقاً مع استراتيجية الإمارات الوطنية للذكاء الاصطناعي 2031، الهادفة إلى دمج حلول الذكاء الاصطناعي في مختلف العمليات الحكومية والقطاعات الاستراتيجية الحيوية.
ويدعم “مسار الذكاء الاصطناعي”، ضمن برنامج خبراء الإمارات خمسة أهداف رئيسية في استراتيجية الإمارات الوطنية للذكاء الاصطناعي 2031، تتمثل في تعزيز مكانة الإمارات كمركز عالمي للذكاء الاصطناعي، وتعزيز التنافسية في القطاعات الحيوية عبر توسيع تطبيقات الذكاء الاصطناعي، وتسريع تبني الذكاء الاصطناعي في الخدمات الحكومية، وتطوير الكفاءات الإماراتية لشغل وظائف تعتمد على الذكاء الاصطناعي، وربط البحث المتقدم والبنية التحتية بالتطبيق الواقعي.
ومن المقرر أن يضم “مسار الذكاء الاصطناعي”، نخبة من الكوادر الوطنية ضمن 25 قطاعاً حيوياً؛ حيث سيلتحق المنتسبون بتدريبات مكثفة في مجالات عدة من بينها أنظمة الذكاء الاصطناعي والحوكمة والقيادة، والمشاركة في عدد من الرحلات الدراسية الدولية، والعمل على مشروعات تخرج مصممة لمواجهة تحديات حقيقية على المستوى الوطني، بإشراف مباشر من الموجهين.
وقال سعادة أحمد الشامسي، مدير برنامج خبراء الإمارات: “نجحت دولة الإمارات في ترسيخ مكانتها الرائدة كبيئة حاضنة للذكاء الاصطناعي على مستوى العالم، ومع انطلاق مسار الذكاء الاصطناعي؛ سيتم التركيز الآن على الانتقال من تبني تقنيات الذكاء الاصطناعي إلى توظيفها بكفاءة وقيادة تطويرها، بما يسهم في إعداد كوادر وطنية قادرة على صياغة السياسات وتعزيز تنافسية الدولة عالمياً لعقود قادمة”.
وأضاف: “يأتي انطلاق مسار الذكاء الاصطناعي ضمن برنامج خبراء الإمارات تزامناً مع الإعلان عن المنظومة الجديدة لحكومة الإمارات، والتي تهدف لتحويل 50% من قطاعات وخدمات وعمليات الحكومة لتطبيق نماذج الذكاء الاصطناعي ذاتية التنفيذ والقيادة خلال عامين”، موضحاً أنه بخلاف الأنظمة التقليدية؛ تتسم تلك النماذج بقدرتها على تنفيذ المهام وإدارة العمليات المعقدة بصورة مستقلة، إذ يركز مسار الذكاء الاصطناعي على إعداد كوادر وطنية قادرة على التعامل مع هذه الأنظمة وإدارتها بمسؤولية داخل قطاعات وبيئات تشغيلية حيوية.
وفي سياق متصل؛ تضمنت عملية اختيار المنتسبين إجراء مقابلات معمقة مع عدد من خبراء الذكاء الاصطناعي، إلى جانب زملاء وخريجي برنامج خبراء الإمارات.
وقالت البروفيسورة هدى الخزيمي، المتحدثة باسم برنامج خبراء الإمارات “مسار الذكاء الاصطناعي”: “خلال المقابلات ومناقشات الاختيار، برز لدى العديد من المرشحين وعي متقدم باستراتيجية الإمارات الوطنية للذكاء الاصطناعي 2031، وفهم واضح بأن المرحلة المقبلة تعتمد على التطبيق المؤسسي الفعّال للذكاء الاصطناعي منوهة بالمستوى الاستثنائي من الطموح والكفاءة لدى عدد من المرشحين، وإمكاناتهم العالية لإحداث أثر محلي وعالمي وإضافة قيمة حقيقية للقطاعات وتعزيز تنافسية الدولة.
تجدر الإشارة إلى أن إطلاق “مسار الذكاء الاصطناعي”، ضمن برنامج خبراء الإمارات، هو امتداد للزخم الذي تشهده دولة الإمارات في مجال تبني التكنولوجيا المتقدمة والذكاء الاصطناعي، حيث صنّفتها مؤشرات دولية حديثة ضمن الدول الرائدة عالمياً في الجاهزية المؤسسية وتبني الذكاء الاصطناعي على مستوى الحكومات، وتشكل الاستثمارات في البنية التحتية الرقمية وبناء القدرات الوطنية قاعدة أساسية لدعم هذا المسار وتطوير مخرجاته المستقبلية. وام