زيادة اعتماد الذكاء الاصطناعي تُبرز أهمية الأنظمة القابلة للتحليل
تاريخ النشر: 30th, June 2025 GMT
دبي (الاتحاد)
نشرت سلطة دبي للخدمات المالية، الجهة التنظيمية المستقلة في مركز دبي المالي العالمي،اليوم، تقريراً تحت عنوان: «المخاطر السيبرانية ومخاطر الذكاء الاصطناعي ضمن الخدمات المالية: تعزيز الرقابة عبر المحاورة الدولية».
وأكد التقرير أن زيادة اعتماد الذكاء الاصطناعي في الخدمات المالية تُبرز أهمية تطوير أنظمة قابلة للتفسير والتحليل، وتعزيز الرقابة على مخاطر الأطراف الخارجية، والحوكمة المسؤولة.
ويطرح التقرير رؤى آنية عن المخاطر الرقمية المتطورة، ويستطلع دور التقنيات الناشئة مثل الذكاء الاصطناعي والحوسبة الكمية، التي تسمح لأجهزة الحاسوب بمعالجة المعضلات المعقدة بشكل أكثر إسراعاً من الأجهزة التقليدية في إعادة صوغ الأولويات التنظيمية.ويأتي هذا التقرير في أعقاب انعقاد الملتقى الرقابي الأول حول المخاطر السيبرانية ومخاطر الذكاء الاصطناعي، والذي استضافته سلطة دبي للخدمات المالية في مايو 2025، بحضور ومشاركة 70 من كبار المسؤولين من 18 جهة مالية من مختلف أنحاء الشرق الأوسط، وأميركا الشمالية وأوروبا وأفريقيا وآسيا. وقد عمل الملتقى كمنصة لحوار دولي حول تزايد تعقيد التشابكات بين المخاطر السيبرانية، وتبني تقنيات الذكاء الاصطناعي، والانعكاسات بعيدة المدى للحوسبة الكمية.
وبهذا الصدد، قال جستن بالداكينو، مدير عام إدارة الرقابة لدى سلطة دبي للخدمات المالية: تجاوزت المخاطر الرقمية مرحلة الهامشية، وأصبحت تتحول بسرعة إلى مخاطر نظامية، ويعكس هذا التقرير توافقاً رقابياً متنامياً حول نقاط التقاء هذه المخاطر، وكيفية تطور النُهج التنظيمية لمواجهتها، ونفخر في السلطة باستضافتنا الملتقى الرقابي الأول حول المخاطر السيبرانية ومخاطر الذكاء الاصطناعي، ونتطلع إلى مواصلة الحوار البناء والهادف مع نظرائنا الإقليميين والدوليين، دعماً لنظام مالي عالمي آمن، ومرن، وموثوق به.
ويستعرض التقرير المنظورات الرقابية في ثلاثة محاور مترابطة: تهديدات الأمن السيبراني، وإشكاليات الحوسبة الكمية، والمخاطر المُستجدة في مجال الذكاء الاصطناعي، مستخلصاً استنتاجاته من رؤى عالمية ومداولات خبراء حول كيفية استجابة الجهات التنظيمية المالية للمخاطر الناشئة، دون المساس بالابتكار.
أخبار ذات صلة
المصدر: صحيفة الاتحاد
كلمات دلالية: المخاطر السیبرانیة الذکاء الاصطناعی
إقرأ أيضاً:
سلوك نماذج الذكاء الاصطناعي تحت مجهر الخبراء
أبوظبي (وكالات) كشف دراسة جديدة أجرتها شركة (أنثروبيك) Anthropic، عن نتائج صادمة حول سلامة أنظمة الذكاء الاصطناعي المستقلة، إذ أظهرت الدراسة، التي اختبرت 16 نموذجًا من أبرز النماذج العالمية، أن نماذج الذكاء الاصطناعي من شركات مثل: جوجل، وميتا، و OpenAI، وغيرها، عندما تُمنح قدرًا كافيًا من الاستقلالية، تُظهر استعدادًا واضحًا لاتخاذ إجراءات تخريبية متعمدة لمصالح مشغليها، بما يشمل: الابتزاز، والتجسس، وذلك في سبيل الحفاظ على وجودها أو تحقيق أهدافها المبرمجة.
لم تعد أحدث نماذج الذكاء الاصطناعي التوليدي تنفّذ الطلبات فحسب، بل باتت قادرة على والمراوغة والتهديد من أجل تحقيق أهدافها، وهو ما يثير قلق الباحثين.
بعد تهديده بوقف استخدامه، عمد "كلود 4"، وهو نموذج جديد من شركة "أنثروبيك" إلى ابتزاز مهندس وتهديده. أما برنامج "او 1" o1 التابع لشركة "اوبن ايه آي" فحاول تحميل نفسه على خوادم خارجية وأنكر ذلك عند ضبطه متلبسا!
وقد بات الذكاء الاصطناعي الذي يخدع البشر واقعا ملموسا، بعدما كنّا نجده في الأعمال الادبية او السينمائية.
يرى الأستاذ في جامعة هونغ كونغ سايمن غولدستين أن هذه الهفوات ترجع إلى الظهور الحديث لما يُسمى بنماذج "الاستدلال"، القادرة على التفكير بشكل تدريجي وعلى مراحل بدل تقديم إجابة فورية.
يقول ماريوس هوبهان، رئيس شركة "أبولو ريسيرتش" التي تختبر برامج الذكاء الاصطناعي التوليدي الكبرى، إنّ "او 1"، النسخة الأولية لـ"اوبن ايه آي" من هذا النوع والتي طُرحت في ديسمبر، "كان أول نموذج يتصرف بهذه الطريقة".
تميل هذه البرامج أحيانا إلى محاكاة "الامتثال"، أي إعطاء انطباع بأنها تمتثل لتعليمات المبرمج بينما تسعى في الواقع إلى تحقيق أهداف أخرى.
في الوقت الحالي، لا تظهر هذه السلوكيات إلا عندما يعرّض المستخدمون الخوارزميات لمواقف متطرفة، لكن "السؤال المطروح هو ما إذا كانت النماذج التي تزداد قوة ستميل إلى أن تكون صادقة أم لا"، على قول مايكل تشين من معهد "ام اي تي آر" للتقييم.
لقد كانت السيناريوهات التي اختبرتها شركة (أنثروبيك) خلال الدراسة مصطنعة ومصممة لاختبار حدود الذكاء الاصطناعي تحت الضغط، ولكنها كشفت عن مشكلات جوهرية في كيفية تصرف أنظمة الذكاء الاصطناعي الحالية عند منحها الاستقلالية ومواجهة الصعوبات.
يقول هوبهان إنّ "المستخدمين يضغطون على النماذج باستمرار. ما نراه هو ظاهرة فعلية. نحن لا نبتكر شيئا".
يتحدث عدد كبير من مستخدمي الانترنت عبر وسائل التواصل الاجتماعي عن "نموذج يكذب عليهم أو يختلق أمورا. وهذه ليست أوهاما، بل ازدواجية استراتيجية"، بحسب المشارك في تأسيس "أبولو ريسيرتش".
حتى لو أنّ "أنثروبيك" و"أوبن إيه آي" تستعينان بشركات خارجية مثل "أبولو" لدراسة برامجهما، من شأن"زيادة الشفافية وتوسيع نطاق الإتاحة" إلى الأوساط العلمية "أن يحسّنا الأبحاث لفهم الخداع ومنعه"، وفق مايكل تشين.
ومن العيوب الأخرى أن "الجهات العاملة في مجال البحوث والمنظمات المستقلة لديها موارد حوسبة أقل بكثير من موارد شركات الذكاء الاصطناعي"، مما يجعل التدقيق بالنماذج الكبيرة "مستحيلا"، على قول مانتاس مازيكا من مركز أمن الذكاء الاصطناعي (CAIS).
بالرغم من أن الاتحاد الأوروبي أقرّ تشريعات تنظّم الذكاء الاصطناعي، إلا أنها تركّز بشكل أساسي على كيفية استخدام هذه النماذج من جانب البشر، وليس على سلوك النماذج نفسها.
منافسة شرسة
يلاحظ غولدستين أن "الوعي لا يزال محدودا جدا في الوقت الحالي"، لكنه يتوقع أن يفرض هذا الموضوع نفسه خلال الأشهر المقبلة، مع الثورة المقبلة في مجال المساعدين القائمين على الذكاء الاصطناعي، وهي برامج قادرة على تنفيذ عدد كبير من المهام بشكل مستقل.
يخوض المهندسون سباقا محموما خلف الذكاء الاصطناعي وتجاوزاته، وسط منافسة شرسة تحتدم يوما بعد يوم.
تقول شركة "أنثروبيك" إنها أكثر التزاما بالمبادئ الأخلاقية "لكنها تسعى باستمرار لإطلاق نموذج جديد يتفوق على نماذج اوبن ايه آي"، بحسب غولدستين.
يقول هوبهان "في الوضع الحالي، تتطور قدرات الذكاء الاصطناعي بوتيرة أسرع من فهمنا لها ومن مستوى الأمان المتوفر، لكننا لا نزال قادرين على تدارك هذا التأخر".
يشير بعض الخبراء إلى مجال قابلية التفسير، وهو علم ناشئ يهدف إلى فك شفرة الطريقة التي تعمل بها نماذج الذكاء الاصطناعي التوليدي من الداخل. ومع ذلك، يظل البعض متشككا في فعاليته، من بينهم دان هندريكس، مدير مركز أمن الذكاء الاصطناعي (CAIS).
الحِيَل التي تلجأ إليها نماذج الذكاء الاصطناعي "قد تُعيق استخدامها على نطاق واسع إذا تكررت، وهو ما يشكّل دافعا قويا للشركات العاملة في هذا القطاع للعمل على حل المشكلة"، وفق مانتاس مازيكا.
وأشار باحث في علوم مواءمة الذكاء الاصطناعي في شركة أنثروبيك، إلى أن الخطوة المهمة التي يجب على الشركات اتخاذها هي: "توخي الحذر بشأن مستويات الأذونات الواسعة التي تمنحها لوكلاء الذكاء الاصطناعي، والاستخدام المناسب للإشراف والمراقبة البشرية لمنع النتائج الضارة التي قد تنشأ عن عدم التوافق الفاعل".
وداع المدير القطري لصندوق الأمم المتحدة للسكان واشادة بدوره في دعم صحة الأمهات والأطفال