ديدان الذكاء الاصطناعي.. باحثون يبتكرون طريقة خطيرة لسرقة البيانات الحساسة
تاريخ النشر: 3rd, March 2024 GMT
ابتكر مجموعة من الباحثين دودة الذكاء الاصطناعي من الجيل الأول، والتي يمكنها سرقة البيانات ونشر البرامج الضارة، وإرسال رسائل غير مرغوب فيها للمستخدمين، وقابلة للانتشار عبر أنظمة متعددة عبر البريد الإلكتروني.
وتم تطوير هذه الدودة وتعمل بنجاح كما تم تصميمها في بيئات الاختبار باستخدام LLMs الشائعة، وبناءً على النتائج التي توصلوا إليها، نصح الباحثون مطوري GenAI، وشاركوا القلق بشأن المخاطر المحتملة التي يمكن أن تسببها مثل هذه البرامج الضارة.
وقام الفريق بمشاركة الأوراق البحثية ونشر مقطع فيديو يوضح كيفية استخدام طريقتين لسرقة البيانات والتأثير على عملاء البريد الإلكتروني الآخرين.
وابتكر دودة الذكاء الاصطناعي عدد من الباحثين من جامعة كورنيل تيك، أحد المعاهد للتكنولوجيا بـ “إسرائيل” ، وشركة إنتويت، حيث أطلقوا عليها اسم "Morris II" موريس الثانية على اسم موريس الأصلي، وهي أول دودة كمبيوتر أحدثت إزعاجًا عالميًا عبر الإنترنت في عام 1988.
تعمل هذه الدودة من خلال استهداف تطبيقات Gen AI وحتى مع مساعدي البريد الإلكتروني الذين يدعمون Gen AI والذين يقومون بإنشاء نصوص وصور ضد نماذج الذكاء الاصطناعي مثل Gemini Pro وChatGPT 4.0 وLLaVA.
وتعمل الدودة عن طريق استخدام موجه عدائي ذاتي النسخ يتم استخدامه ضد نماذجه، على غرار كيفية عمل كسر الحماية لنشر المحتوى السام باستخدام الذكاء الاصطناعي.
وقد أثبت الباحثون ذلك من خلال إنشاء نظام بريد إلكتروني باستخدام محركات الذكاء الاصطناعي التوليدية واستخدام موجه ذاتي التكرار باستخدام نص أو مضمن في ملف صورة.
وأبلغ فريق الباحثين نتائجهم إلى شركات مثل جوجل وOpenAI، وتواصلت مجلة “Wired” الأمريكية مع جوجل، والتي رفضت التعليق على البحث.
وأجاب المتحدث باسم OpenAI بأنه "يبدو أن الباحثين وجدوا طريقة لاستغلال الثغرات الأمنية من نوع الحقن الفوري من خلال الاعتماد على مدخلات المستخدم التي لم يتم فحصها أو تصفيتها".
وأكد أيضًا أنها تجعل أنظمتها أكثر مرونة وأضاف أنه يجب على المطورين استخدام أساليب تضمن عدم تعاملهم مع مدخلات ضارة.
المصدر: صدى البلد
كلمات دلالية: الذكاء الاصطناعي سرقة البيانات الذکاء الاصطناعی
إقرأ أيضاً:
ربنا يستر.. خالد الجندي: الذكاء الاصطناعي بيجاوب بفهلوة في المسائل الدينية
حذّر الشيخ خالد الجندي، عضو المجلس الأعلى للشئون الإسلامية، من الاعتماد على الذكاء الاصطناعي في المسائل الدينية أو طلب الفتوى، مؤكدًا أن هذه التقنية رغم تقدمها الكبير، لا تزال تفتقر للدقة والضبط في التعامل مع النصوص الشرعية.
وقال الشيخ خالد الجندي، خلال تصريحات تلفزيونية، اليوم الثلاثاء، "حضراتكم عشان تبقوا عارفين، إحنا عملنا اختبار للذكاء الاصطناعي.. أنا شخصيًا كنت بدي له أسئلة دينية دقيقة عشان أشوف مدى تمكنه، وللأسف لقيته بيرد بالفهلَوة!".
الشيخ خالد الجندي: قاعدة الضرر يزال مفتاح استقرار المجتمع
هل تفسير الأحلام علم شرعي؟.. الشيخ خالد الجندي يحسم الجدل
خالد الجندي: من يُحلّل الخمر أو الحشيش فقد غاب عنه المخ الصحيح .. فيديو
خالد الجندي: مشاهد يومك قد تقودك إلى الجنة أو النار.. وفرغ قلبك لله وقت العبادة
وسرد الشيخ خالد الجندي واقعة واقعية خلال اختباره للذكاء الاصطناعي، قال فيها: "سألته: هاتلي فعل أمر أوله ياء من القرآن الكريم، فقال لي: مفيش، فعل الأمر لا يمكن أن يبدأ بحرف الياء! فقلت له: ده كلام غلط. عندك في سورة طه: يسِّر لي أمري، و(يسِّر) فعل أمر أوله ياء، وبعدها اعترف إنه أخطأ وقال: فعلاً، دي أول مرة آخد بالي!".
وتابع الشيخ خالد الجندي "قلت له ربنا يستر على الباقي!"، مشددًا على أن مثل هذه الأخطاء تُظهر خطورة الاعتماد على الذكاء الاصطناعي في الإفتاء أو الاستدلال بالنصوص الشرعية، لأن الأمر يتطلب فقيهًا مدرّبًا، ملمًا بالمقاصد الشرعية، ومراعيًا لأحوال الناس وظروفهم.
الشيخ خالد الجندي: الذكاء الاصطناعي مفيد في المعلومات العامة فقطوأكد الشيخ خالد الجندي على أهمية الوعي العام بهذه المسألة، قائلًا: "الذكاء الاصطناعي مفيد في المعلومات العامة، لكن في الدين؟ لأ.. لازم مفتي راشد، دارس، عنده أمانة علمية وإنسانية".
قال الشيخ خالد الجندي، عضو المجلس الأعلى للشئون الإسلامية، إن الإفتاء ليس مجرد رأي يُقال، بل هو علم متراكم عبر الأجيال منذ عهد النبي صلى الله عليه وسلم، يدرسه المتخصصون بدقة وفهم واسع للقرآن والسنة والتفسير والحديث واللغة، إضافة إلى إدراك أحوال المستفتي والمفتي والفتوى ذاتها.
وأوضح الشيخ خالد الجندي، خلال تصريحات تلفزيونية، اليوم الثلاثاء، أن المفتي حين يتلقى السؤال، يعرضه أولًا على خمس قواعد أساسية تُعرف بـ"المقاصد الشرعية"، وهي: حفظ الدين، وحفظ العقل، وحفظ العرض، وحفظ المال، وحفظ النفس، مؤكدًا أن هذه المقاصد بمثابة دستور لا يجوز المساس بها أو الإضرار بها.
وتابع الشيخ خالد الجندي "بعد النظر في المقاصد، ينتقل المفتي إلى تقييم المسألة من خلال ما يُعرف بـ"المصالح"، وهي ثلاثة أنواع: مصالح ضرورية، وحاجية، وتحسينية، وتختلف حسب ظروف السائل".
وأشار الشيخ خالد الجندي إلى أن اختلاف الأشخاص يؤدي إلى اختلاف الحكم، ضاربًا مثالًا بثلاثة سائلين يطلبون قرضًا لأسباب مختلفة: أحدهم لعلاج ابنته المريضة (مصلحة ضرورية)، والثاني لتحديث سيارته (مصلحة تحسينية)، والثالث لشراء شقة أوسع (مصلحة حاجية)، لافتًا إلى أن "الحكم لا يمكن أن يكون واحدًا للجميع".
وأكد الشيخ خالد الجندي على أن المفتي يُجري خمسة عشر تصورًا ذهنيًا في كل فتوى (نتيجة المزج بين المقاصد الخمسة والمصالح الثلاثة)، يتم هذا التقدير في لحظة خاطفة، بفضل التدريب والعلم، تمامًا كما يتخذ الطبيب قراره في جزء من الثانية.
تعزيز الشفافية والمشاركة.. مذكرة تفاهم جديدة بين مفوضية الانتخابات ومؤسسة بحثية وطنية