مخاوف بريطانية من استخدام الذكاء الاصطناعي لتصنيع أسلحة بيولوجية
تاريخ النشر: 25th, September 2023 GMT
يتوقع أن تهيمن المخاوف من احتمال استخدام المجرمين أو الإرهابيين للذكاء الاصطناعي لإحداث دمار شامل، على المناقشات في قمة زعماء العالم حول سلامة الذكاء الاصطناعي في نوفمبر/تشرين الثاني المقبل.
ومع تزايد المخاوف بشأن قوة الجيل القادم من التقدم التقني، يُجري المسؤولون البريطانيون جولة يتطلعون خلالها إلى بناء توافق في الآراء حول بيان مشترك يحذّر من مخاطر الجهات المارقة، التي تستخدم التقنية وتتسبب في الموت على نطاق واسع.
يشعر بعض المحيطين برئيس الوزراء البريطاني ريشي سوناك، بالقلق من أن التقنية ستصبح قريبا قوية بما يكفي لمساعدة الأفراد على صنع أسلحة "بيولوجية"، أو التهرب من السيطرة البشرية تماما.
في الأسبوع الماضي، قال ماكس تيجمارك، العالم الذي يقف وراء رسالة تاريخية تدعو إلى التوقف مؤقتا عن تطوير أنظمة الذكاء الاصطناعي القوية، وأن المديرين التنفيذيين للتقنية وافقوا بشكل خاص على هذه الرسالة، لكنهم شعروا أنهم محصورون في سباق تنافسي في مجال الذكاء الاصطناعي.
وقال أحد المطلعين على محادثات القمة، إن "الهدف من القمة هو التحذير من مخاطر الذكاء الاصطناعي المتقدم، وهو مصطلح يستخدم للإشارة إلى نماذج الذكاء الاصطناعي، التي يمكن أن تشكل خطرا على حياة الإنسان".
ويوم الجمعة الماضي، قال أوليفر دودن، نائب رئيس الوزراء لقادة العالم في الجمعية العامة للأمم المتحدة، "نظرا لأن شركات التقنية والجهات الفاعلة غير الحكومية غالبا ما تتمتع بنفوذ ومكانة بارزة على مستوى الدولة في مجال الذكاء الاصطناعي؛ فإن هذا التحدي يتطلب شكلا جديدا من التعددية".
وقد انزعج المسؤولون من التطورات الأخيرة في نماذج الذكاء الاصطناعي. ففي العام الماضي، استغرقت أداة الذكاء الاصطناعي 6 ساعات فقط لاقتراح 40 ألف جزيء مختلف قد يكون مميتا، بعضها كان ملوثا مشابه لـ "في إكس"، أقوى عامل أعصاب طُوّر على الإطلاق.
وتخشى مصادر حكومية أن يستخدم مجرمون أو إرهابيون الذكاء الاصطناعي، لمساعدتهم في إعداد مكونات سلاح بيولوجي، قبل إرسالها إلى مختبر آلي حيث يمكن خلطها، وإرسالها دون أي إشراف بشري.
ويعتقد بعض الخبراء أن هذا الخطر سوف يتزايد قريبا بشكل كبير، حيث تنفق الشركات بالفعل مئات الملايين من الدولارات على معالجات أكثر قوة، لتدريب الجيل القادم من أدوات الذكاء الاصطناعي.
ومن المخاوف المهمة الأخرى ظهور "الذكاء العام الاصطناعي"، وهو مصطلح يشير إلى نظام ذكاء اصطناعي قادر على أداء أي مهمة بشكل مستقل عن مستوى الإنسان، أو فوق مستوى الإنسان، ويمكن أن يشكل خطرا وجوديا على البشر.
والأسبوع الماضي، أخبر أحد كبار المسؤولين التنفيذيين في مجال التقنية المشرّعين الأميركيين أن مفهوم الذكاء الاصطناعي العام الذي لا يمكن السيطرة عليه هو "خيال علمي". ومع ذلك، يريد سوناك استخدام القمة لتركيز الاهتمام على المخاطر الوجودية، بدلا من الاحتمالات الأكثر إلحاحا التي يمكن أن يستخدمها الذكاء الاصطناعي لإنشاء صور مزيفة.
وقال بنديكت ماكون كوني، كبير الإستراتيجيين السياسيين في معهد توني بلير، الذي نشر مؤخرا تقريرا سياسيا حول الذكاء الاصطناعي، أن "الأمن البيولوجي، وأنظمة الأسلحة المستقلة، هذه أشياء يتعين علينا التأكد من حصولنا على إجابات لها. لقد أخبر كثيرون في صناعة الذكاء الاصطناعي السياسيين أن هذه مخاطر حقيقية. لقد طرح السؤال على السياسيين، وعليهم أن يتوصلوا إلى إجابة".
ومن المقرر أن يحضر القمة العديد من زعماء العالم، من بينهم رئيس الوزراء الكندي جاستن ترودو، والرئيس الفرنسي إيمانويل ماكرون، وقد دعت المملكة المتحدة الصين للحضور.
وأجرى المسؤولون البريطانيون جولة حول العالم في الأيام الأخيرة، لاختبار إمكانية ضمان اتفاق في نهاية القمة. وتحرص المملكة المتحدة على الحصول على بيان رسمي يمكن للقادة التوقيع عليه بعد ذلك.
الجهات الفاعلةويعتقد المسؤولون أن أفضل طريقة للتوصل إلى اتفاق بين هذه المجموعة المتنوعة من البلدان، هي التركيز على الجهات الفاعلة غير التابعة لدول بعينها، بدلا من محاولة إملاء كيفية تطوير البلدان للتقنية الخاصة بها.
يشار إلى أن داونينغ ستريت ينفق (100 مليون جنيه إسترليني) ما يعادل -(122 مليون دولار أميركي)- على فريق عمل جديد للذكاء الاصطناعي، للمساعدة في اختبار الخوارزميات أثناء تطويرها.
ويخطط المسؤولون البريطانيون لاستغلال القمة لحثّ الشركات في جميع أنحاء العالم على إرسال أدوات الذكاء الاصطناعي الخاصة بهم إلى المملكة المتحدة، لتقييمها قبل نشرها على نطاق أوسع.
وقال متحدث باسم الحكومة، إن الذكاء الاصطناعي لديه "إمكانات هائلة لتغيير كل جانب من جوانب حياتنا"، وتم إنشاء فريق عمل الذكاء الاصطناعي المتقدم، لضمان تطوير التقنية بشكل آمن ومسؤول، كما نظرت قمة سلامة الذكاء الاصطناعي -أيضا- في "مجموعة من المخاطر المحتملة".
المصدر: الجزيرة
كلمات دلالية: الذکاء الاصطناعی
إقرأ أيضاً:
الذكاء الاصطناعي والأمن السيبراني.. من يحمي من؟
في خضم التطور السريع لتقنيات الذكاء الاصطناعي، يبرز الأمن السيبراني كساحة معركة جديدة بين الدفاعات الذكية والهجمات المتطورة. فهل يكون الذكاء الاصطناعي حامياً أم مصدراً لخطر جديد؟.
شهدت السنوات القليلة الماضية تسارعاً كبيراً في دمج تقنيات الذكاء الاصطناعي في أنظمة الأمن السيبراني حول العالم.
وقد شمل ذلك مجالات مثل تحليل التهديدات، والتعرف على أنماط السلوك غير الطبيعي، والتعامل الآلي مع الحوادث الأمنية.
لكن في الجهة الأخرى، فإن نفس التقنيات باتت تُستخدم أيضاً من قبل جهات خبيثة لتطوير هجمات سيبرانية أكثر ذكاءً وخداعاً.
هذا التوازن الحساس بين الدفاع والهجوم يطرح تساؤلات جوهرية: من يسبق الآخر؟ وهل يمكن السيطرة على الذكاء الاصطناعي قبل أن يتفوق على البشر في ساحة المعركة الرقمية؟
الذكاء الاصطناعي.. درع رقمي
بحسب تقرير أصدرته شركة "Fortinet"، فإن أنظمة الأمن القائمة على الذكاء الاصطناعي تُسهم في تحسين زمن الاستجابة للحوادث بنسبة تصل إلى 90%، مقارنة بالأنظمة التقليدية.
وتعتمد هذه الأنظمة على تقنيات مثل التعلم الآلي وتحليل البيانات السلوكية، مما يمكّنها من رصد التهديدات المحتملة في لحظاتها الأولى، حتى تلك التي لم تُسجل من قبل.
ويشير خبراء إلى أن هذه القدرات أساسية في التصدي للهجمات من نوع "Zero-Day"، والتي لا تتوافر لها قواعد بيانات معروفة.
كما تستخدم شركات كبرى، مثل "Microsoft" و"IBM"، منصات تعتمد على الذكاء الاصطناعي لحماية شبكاتها الضخمة وتحليل المليارات من الأحداث الأمنية بشكل يومي.
الذكاء الاصطناعي.. أداة هجومية
الذكاء الاصطناعي لا يقتصر على الجانب الدفاعي، فقد أظهرت تحقيقات تقنية أن جماعات سيبرانية بدأت في استخدام أدوات تعتمد على نماذج توليدية لإنشاء رسائل بريد إلكتروني خادعة يصعب تمييزها عن الرسائل الحقيقية.
وفي مايو 2025، كشفت وكالة "رويترز" عن حادثة استخدمت فيها جهة خبيثة صوتاً مزيفاً لأحد كبار المسؤولين في إيطاليا لإقناع رجل أعمال بارز بتحويل مبلغ مالي كبير.
وقد استخدمت التقنية خوارزميات توليد الصوت بالذكاء الاصطناعي، وهي متاحة بشكل تجاري عبر الإنترنت.
كما تُستخدم تقنيات توليد النصوص آلياً لشن هجمات تصيّد ذكي، تستهدف الأفراد برسائل مصممة بعناية بعد تحليل بياناتهم عبر الإنترنت، مما يزيد من احتمالية وقوعهم ضحية للهجوم.
سباق غير محسوم بين المدافعين والمهاجمين
وصف عدد من الباحثين في مجال الأمن السيبراني ما يجري بأنه سباق تسلّح رقمي، فكلما طوّر المدافعون تقنيات ذكاء اصطناعي أكثر تطوراً، يسعى المهاجمون لاستغلال نفس التقنيات، بل ومحاكاتها في بعض الأحيان.
وأشار تقرير صادر عن شركة "Palo Alto Networks" في الربع الأول من العام 2025، إلى أن نسبة الهجمات التي تستخدم خوارزميات ذكاء اصطناعي، أو تستغل ثغرات في أنظمة تعمل بالذكاء الاصطناعي قد زادت بنسبة 37% خلال عام واحد فقط.
وتكمن الخطورة في أن أنظمة الذكاء الاصطناعي ذاتها قد تصبح أهدافاً للهجمات، سواء من خلال التلاعب بنتائجها أو تدريبها على بيانات مغلوطة تُعرف بهجمات التسميم "Data Poisoning".
تحديات الخصوصية والحوكمة
من جانب آخر، تتزايد المخاوف حول الأثر المحتمل لأنظمة الذكاء الاصطناعي على الخصوصية والشفافية.
وفي تقرير أصدرته شركة "KPMG"، أوصت فيه بوضع أطر تنظيمية واضحة تحكم استخدام الذكاء الاصطناعي في المجالات الحساسة، وعلى رأسها الأمن السيبراني، وذلك لتفادي سوء الاستخدام أو التحيزات الخوارزمية.
وفي الوقت الذي تعتمد فيه هذه الأنظمة على مراقبة سلوك المستخدمين وتحليل البيانات بشكل دائم، يظل هناك جدل قانوني وأخلاقي حول مدى قانونية هذا التتبع، خاصة في ظل غياب تشريعات موحدة على المستوى الدولي.
حوكمة ذكية
لا شك أن الذكاء الاصطناعي يعيد تشكيل مشهد الأمن السيبراني العالمي، وبينما يوفّر إمكانيات هائلة لتعزيز الحماية، إلا أنه يطرح في المقابل تحديات معقدة تتطلب حلولاً مرنة وذكية.
التحدي الأكبر ربما لا يكمن فقط في تطوير تقنيات أكثر ذكاءً، بل في ضمان استخدامها المسؤول والآمن.
ولهذا، يدعو خبراء إلى تعاون عالمي بين الحكومات وشركات التكنولوجيا ومراكز الأبحاث لوضع أُطر تنظيمية تواكب سرعة هذا التطور المتسارع، وتحمي المستخدمين من مخاطره غير المتوقعة.
أمجد الطاهر (أبوظبي)
الخارجية المصرية: مسألة مرور السفن الأمريكية دون رسوم عبر قناة السويس مغلقة ومستنفدة