تحذيرات من استخدام الذكاء الاصطناعي في القرصنة الإلكترونية
تاريخ النشر: 14th, February 2024 GMT
كشفت مايكروسوفت وأوبن إيه آي اليوم أن المتسللين يستخدمون بالفعل نماذج لغوية كبيرة المعروفة اختصارا بـ"إل إل إم إس" (LLMs) مثل شات جي بي تي لتحسين هجماتهم الإلكترونية الحالية وتحسينها، بحسب موقع ذي فيرج.
ففي بحث منشور حديثا، اكتشفت مايكروسوفت وأوبن إيه آي محاولات من قبل مجموعات مدعومة من روسيا وكوريا الشمالية وإيران والصين باستخدام أدوات مثل شات جي بي تي للبحث في الأهداف، وتحسين النصوص البرمجية، والمساعدة في بناء تقنيات الهندسة الاجتماعية.
وتقول مايكروسوفت في مدونة: "تقوم مجموعات الجرائم الإلكترونية، والجهات الفاعلة التي تهدد الدول، وغيرهم من الخصوم، باستكشاف واختبار تقنيات الذكاء الاصطناعي المختلفة عند ظهورها، في محاولة لفهم الميزات المحتملة لعملياتهم والضوابط الأمنية التي قد يحتاجون إليها للتحايل".
وأضافت مايكروسوفت أنه "تبين أن مجموعة سترونتيوم المرتبطة بالمخابرات العسكرية الروسية، تستخدم نماذج اللغة الكبيرة والمعروفة لفهم بروتوكولات الاتصالات عبر الأقمار الصناعية، وتقنيات التصوير الراداري، ومعايير تقنية محددة".
وكانت مجموعة القرصنة المعروفة أيضا باسم "إيه بي تي 28" أو "فانسي بير"، نشطة خلال حرب روسيا في أوكرانيا، وشاركت سابقا في استهداف حملة هيلاري كلينتون الرئاسية في عام 2016، وفقا لما ذكره موقع ذي فيرج.
كما تَستخدم المجموعة أيضا نماذج اللغة الكبيرة للمساعدة في "مهام البرمجة النصية الأساسية، بما في ذلك معالجة الملفات، واختيار البيانات، والتعبيرات العادية، والمعالجة المتعددة، لأتمتة العمليات الفنية أو تحسينها"، وفقا لمايكروسوفت.
وبحسب موقع "ذي فيرج"، تستخدم مجموعة القرصنة الكورية الشمالية المعروفة باسم ثاليوم نماذج اللغة الكبيرة، للبحث عن نقاط الضعف المبلّغ عنها علنا، واستهداف المنظمات للمساعدة في مهام البرمجة النصية الأساسية، وصياغة محتوى لحملات التصيد الاحتيالي.
وتقول مايكروسوفت إن المجموعة الإيرانية المعروفة باسم كوريوم تستخدم أيضا نماذج اللغة الكبيرة لإنشاء رسائل بريد إلكتروني للتصيد الاحتيالي وحتى تعليمات برمجية لتجنب اكتشافها بواسطة تطبيقات مكافحة الفيروسات. ويستخدم المتسللون الصينيون التابعون للدولة أيضا نماذج اللغة الكبيرة للبحث والبرمجة والترجمات وتحسين أدواتهم الحالية.
وكانت هناك مخاوف إزاء استخدام الذكاء الاصطناعي في الهجمات الإلكترونية، لا سيما مع ظهور أدوات الذكاء الاصطناعي مثل "وُرم جي بي تي" و"فرويد جي بي تي" للمساعدة في إنشاء رسائل البريد الإلكتروني الضارة وأدوات الاختراق.
كما حذر مسؤول كبير في وكالة الأمن القومي الشهر الماضي من أن المتسللين يستخدمون الذكاء الاصطناعي لجعل رسائل البريد الإلكتروني التصيدية الخاصة بهم تبدو أكثر إقناعا.
ولم تَكتشف مايكروسوفت وأوبن إيه آي أي "هجمات كبيرة" حتى الآن، لكن الشركتين قامتا بإغلاق جميع الحسابات والأصول المرتبطة بمجموعات القرصنة هذه.
وتقول مايكروسوفت: "في الوقت نفسه، نشعر أنه من المهم نشر هذا البحث لكشف التحركات التدريجية في المراحل المبكرة التي نلاحظ قيام جهات فاعلة معروفة بالتهديد بها، ومشاركة المعلومات عن كيفية حظرنا ومواجهتهم مع مجتمع المدافعين".
وبينما يبدو استخدام الذكاء الاصطناعي في الهجمات الإلكترونية محدودا في الوقت الحالي، فإن مايكروسوفت تحذر من حالات الاستخدام المستقبلية مثل انتحال الهوية الصوتية.
وبطبيعة الحال، تستخدم مايكروسوفت الذكاء الاصطناعي للرد على هجمات الذكاء الاصطناعي. يقول مدير تحليلات في مايكروسوفت هوما هاياتيفار: "يمكن للذكاء الاصطناعي أن يساعد المهاجمين على تحقيق المزيد من التطور في هجماتهم، ولديهم الموارد اللازمة لتنفيذها.. لقد رأينا ذلك مع أكثر من 300 جهة تهديد تتعقبها مايكروسوفت، ونحن نستخدم الذكاء الاصطناعي للحماية والكشف والاستجابة".
وتقوم مايكروسوفت ببناء سيكيورتي كوبايلوت، وهو مساعد جديد للذكاء الاصطناعي صُمم لمتخصصي الأمن السيبراني لتحديد الخروقات وفهم الكميات الهائلة من الإشارات والبيانات التي يجري إنشاؤها من خلال أدوات الأمن السيبراني يوميا بشكل أفضل.
وتقوم شركة البرمجيات العملاقة أيضا بإصلاح أمان برامجها في أعقاب الهجمات السحابية الكبرى على آزور، وحتى تجسس المتسللين الروس على المديرين التنفيذيين لشركة مايكروسوفت.
المصدر: الجزيرة
كلمات دلالية: الذکاء الاصطناعی جی بی تی
إقرأ أيضاً:
المملكة المتحدة ترسخ ريادتها في الذكاء الاصطناعي
تواصل المملكة المتحدة تعزيز موقعها الريادي في مجال الذكاء الاصطناعي، متفوقة على نظرائها الأوروبيين في عدد الشركات الناشئة التي تحصل على تمويل جديد، وفي حجم الاستثمارات الخاصة الإجمالية خلال عام 2024. ومنذ عام 2013، نجحت مشاريع الذكاء الاصطناعي البريطانية في جذب تمويل خاص يقدر بنحو 22 مليار جنيه إسترليني، في مؤشر واضح على استمرار ثقة المستثمرين في بيئة الابتكار البريطانية، موطن شركات كبرى مثل DeepMind وStability AI وWayve.
وخلال فعاليات «أسبوع لندن للتقنية»، كشفت دراسة بحثية أعدتها مؤسسة Public First عن علاقة وثيقة بين البنية التحتية المتقدمة للذكاء الاصطناعي ومراكز البيانات، والنمو الاقتصادي الشامل. وأشارت التحليلات إلى أن التوسع المتواضع في قدرة مراكز بيانات الذكاء الاصطناعي يمكن أن يضيف قرابة 5 مليارات جنيه سنويا للاقتصاد البريطاني، بينما قد يسفر توسيع هذه القدرة إلى الضعف عن تحقيق مكاسب اقتصادية سنوية تصل إلى 36.5 مليار جنيه.
وفي السياق نفسه، أعلنت شركة خدمات الحوسبة السحابية Nscale خلال أسبوع لندن للتقنية عزمها نشر 10,000 وحدة معالجة من طراز NVIDIA Blackwell في المملكة المتحدة بحلول أواخر عام 2026. من جانبها، كشفت شركة Nebius عن خطط لإقامة أول مصنع للذكاء الاصطناعي في البلاد، يضيف 4,000 وحدة معالجة أخرى، لتوفير قوة حوسبية عالية مطلوبة بشدة من قبل مؤسسات البحث والجامعات والخدمات العامة، بما في ذلك هيئة الخدمات الصحية الوطنية (NHS) التي تعاني من نقص دائم في التمويل.
مبادرة لتأهيل المهارات
رغم أهمية البنية التحتية، إلا أن توفر الأجهزة لا يكفي وحده. فهناك تحد بارز يتمثل في نقص الكفاءات القادرة على الاستفادة من هذه القدرات. وللتعامل مع هذه الفجوة، أعلنت شركة NVIDIA عن دعمها للمبادرة الوطنية البريطانية لتأهيل المهارات، من خلال إنشاء مركز تكنولوجيا الذكاء الاصطناعي في بريطانيا، يهدف إلى تقديم تدريب عملي في مجالات الذكاء الاصطناعي وعلوم البيانات والحوسبة المتقدمة.
وأوضح بيان صادر عن الشركة أن المركز سيركز على تدريب متخصصين في نماذج الذكاء الاصطناعي الأساسية، والذكاء الاصطناعي المجسّد، وعلوم المواد، ونمذجة النظم البيئية والجيولوجية.
وفي القطاع المالي، الذي يُعد أحد أبرز مصادر القوة الاقتصادية للمملكة المتحدة، تستعد هيئة الرقابة المالية لإطلاق بيئة اختبار افتراضية «sandbox» مدعومة بالذكاء الاصطناعي، تسمح بتجريب الحلول الجديدة في مجال المصارف والتمويل ضمن بيئة آمنة. وستوفر NayaOne البنية التحتية، بينما تتولى NVIDIA دعم هذا النظام تكنولوجيا.
وقال سومانث كومار، كبير مسؤولي التكنولوجيا للقطاع المصرفي والمالي في NTT DATA المملكة المتحدة وأيرلندا: «كل إجراء في بيئة الـsandbox يترك أثرًا، وهو ما يفرض على البنوك الالتزام بإطار تنظيمي صارم حتى خلال المراحل التجريبية. يتعين على المؤسسات توثيق كيفية بناء النماذج، وتفسير نتائجها، وضمان إمكانية تتبع مصادر البيانات».
وأضاف كومار: «هذه المبادرة تمثل فرصة حقيقية للمؤسسات لتطوير قدراتها الداخلية على استخدام الذكاء الاصطناعي بمسؤولية. ومن جهة أخرى، تمكّن الحكومة من الحفاظ على التنافسية البريطانية وتعزيز الابتكار ضمن إطار تنظيمي متوازن يحمي المستهلك».
الابتكار في مجالات الذكاء الاصطناعي
أعلنت Barclays Eagle Labs عن إنشاء مركز ابتكار جديد في لندن، سيكون بمثابة منصة انطلاق للشركات الناشئة في مجالات الذكاء الاصطناعي والتقنيات العميقة. وستحظى المشاريع الواعدة بفرصة الانضمام إلى برنامج NVIDIA Inception، مما يفتح لها أبواب الوصول إلى أدوات متقدمة وبرامج تدريبية نوعية كانت لتظل بعيدة المنال لولا ذلك.
وفي تعليق له، قال مارك بوست، الرئيس التنفيذي لشركة Civo: «لطالما تحدثنا عن ريادة المملكة المتحدة في الذكاء الاصطناعي، لكن ما نراه الآن هو خطوات فعلية: استثمارات في البنية التحتية، وتدريب للمطورين، وأبحاث وتطوير جادة».
وتابع بوست: «مركز NVIDIA الجديد مبادرة مهمة لسد فجوة المهارات، وإعداد الجيل المقبل من المواهب المحلية في مجال الحوسبة المعجلة وهندسة الذكاء الاصطناعي وتطوير النماذج».
وتطرق بوست إلى قضية بدأت تحظى باهتمام متزايد في دوائر صنع القرار: السيادة التقنية.
وقال: «إذا أردنا بناء قدرة وطنية طويلة المدى، فعلينا تقليل اعتمادنا على الحوسبة الخارجية. ينبغي للمملكة المتحدة أن توازن بين الشراكات العالمية والاستثمار في البنية التحتية المحلية والمعايير المفتوحة والتقنيات التي يمكننا تطويرها بأنفسنا. هذا هو مفتاح الحفاظ على مرونتنا وتنافسيتنا».
تنسيق بين مؤسسات الدولة والقطاع الخاص
وبخلاف ما اعتدنا عليه من مبادرات حكومية أو حملات علاقات عامة من الشركات، يبدو أن هذه الشراكة بين المملكة المتحدة وNVIDIA تنطوي على تنسيق حقيقي بين مؤسسات الدولة والقطاع الخاص والجامعات، مع تركيز واضح على تلبية الاحتياجات الآنية وبناء أسس مستقبلية صلبة.
ورغم أن النتائج الاقتصادية المتوقعة لا تزال في طور التحقق، فإن المملكة المتحدة تبدو، لأول مرة منذ سنوات، وكأنها تلعب على نقاط قوتها بذكاء: مؤسسات بحثية من الطراز العالمي، قطاع مالي نابض، تنظيم براغماتي، وقدرات حوسبية ومهارية تتنامى بسرعة — وهي جميعها عناصر قد تجعل من الطموح في أن تصبح قوة عالمية في الذكاء الاصطناعي حقيقة ملموسة.
أسامة عثمان (أبوظبي)
القيادة تهنئ ملك المملكة الأردنية الهاشمية بذكرى يوم الجلوس