ديدان الذكاء الاصطناعي.. باحثون يبتكرون طريقة خطيرة لسرقة البيانات الحساسة
تاريخ النشر: 3rd, March 2024 GMT
ابتكر مجموعة من الباحثين دودة الذكاء الاصطناعي من الجيل الأول، والتي يمكنها سرقة البيانات ونشر البرامج الضارة، وإرسال رسائل غير مرغوب فيها للمستخدمين، وقابلة للانتشار عبر أنظمة متعددة عبر البريد الإلكتروني.
وتم تطوير هذه الدودة وتعمل بنجاح كما تم تصميمها في بيئات الاختبار باستخدام LLMs الشائعة، وبناءً على النتائج التي توصلوا إليها، نصح الباحثون مطوري GenAI، وشاركوا القلق بشأن المخاطر المحتملة التي يمكن أن تسببها مثل هذه البرامج الضارة.
وقام الفريق بمشاركة الأوراق البحثية ونشر مقطع فيديو يوضح كيفية استخدام طريقتين لسرقة البيانات والتأثير على عملاء البريد الإلكتروني الآخرين.
وابتكر دودة الذكاء الاصطناعي عدد من الباحثين من جامعة كورنيل تيك، أحد المعاهد للتكنولوجيا بـ “إسرائيل” ، وشركة إنتويت، حيث أطلقوا عليها اسم "Morris II" موريس الثانية على اسم موريس الأصلي، وهي أول دودة كمبيوتر أحدثت إزعاجًا عالميًا عبر الإنترنت في عام 1988.
تعمل هذه الدودة من خلال استهداف تطبيقات Gen AI وحتى مع مساعدي البريد الإلكتروني الذين يدعمون Gen AI والذين يقومون بإنشاء نصوص وصور ضد نماذج الذكاء الاصطناعي مثل Gemini Pro وChatGPT 4.0 وLLaVA.
وتعمل الدودة عن طريق استخدام موجه عدائي ذاتي النسخ يتم استخدامه ضد نماذجه، على غرار كيفية عمل كسر الحماية لنشر المحتوى السام باستخدام الذكاء الاصطناعي.
وقد أثبت الباحثون ذلك من خلال إنشاء نظام بريد إلكتروني باستخدام محركات الذكاء الاصطناعي التوليدية واستخدام موجه ذاتي التكرار باستخدام نص أو مضمن في ملف صورة.
وأبلغ فريق الباحثين نتائجهم إلى شركات مثل جوجل وOpenAI، وتواصلت مجلة “Wired” الأمريكية مع جوجل، والتي رفضت التعليق على البحث.
وأجاب المتحدث باسم OpenAI بأنه "يبدو أن الباحثين وجدوا طريقة لاستغلال الثغرات الأمنية من نوع الحقن الفوري من خلال الاعتماد على مدخلات المستخدم التي لم يتم فحصها أو تصفيتها".
وأكد أيضًا أنها تجعل أنظمتها أكثر مرونة وأضاف أنه يجب على المطورين استخدام أساليب تضمن عدم تعاملهم مع مدخلات ضارة.
المصدر: صدى البلد
كلمات دلالية: الذكاء الاصطناعي سرقة البيانات الذکاء الاصطناعی
إقرأ أيضاً:
علماء روس يبتكرون طريقة للكشف المبكر عن السرطان عبر حرارة الأنسجة
الثورة نت /..ابتكر علماء معهد فيزياء البنى المجهرية التابع لأكاديمية العلوم الروسية طريقة جديدة للكشف عن الأمراض، بما فيها السرطان، تعتمد على تحليل المواد الناتجة عن تسخين الأنسجة والسوائل.
ويشير المكتب الإعلامي للمعهد إلى أن استخدام مطياف فريد يسمح بهذه الطريقة بـ”التمييز بين الأورام الحميدة والأورام السرطانية في مراحلها المبكرة، وتتبع التغيرات الأيضية الدقيقة أثناء العلاج”، اعتمادا على نواتج انبعاث المواد عند تسخين الأنسجة أو السوائل.
وقال فلاديمير فاكس، رئيس قسم قياس الطيف الترددي في المعهد: “بدأنا أولا بتحليل تركيب المواد في هواء الزفير، والآن نعمل على نواتج التحلل الحراري للأنسجة البيولوجية. تستطيع أجهزة قياس الطيف التي نستخدمها كشف أدنى تركيز للمواد بسرعة ودقة، وتتبع ظهور مستقلبات مؤشرات الأمراض التي لا تظهر بعد في الاختبارات السريرية القياسية. وستساعد هذه الطريقة الأطباء مستقبلا على مراقبة نجاح العلاج، بما في ذلك العلاج الكيميائي، والكشف المبكر عن أولى الآثار الجانبية غير المرغوب فيها”.
ويشير المبتكرون إلى أن فحوصات الدم، وعلم الأنسجة، والتصوير بالرنين المغناطيسي المستخدم حاليا، لا توفر دائما معلومات عن العلامات المبكرة للمرض. لذلك ابتكروا هذه الطريقة، التي تتميز بأن لكل مادة طيف امتصاص فريد، يشبه بصمة الإصبع، ما يتيح كشف الأمراض في مراحلها الأولى بدقة غير مسبوقة.
الحية يتحدث عن مهام القوة الدولية ويدعو الوسطاء لمنع انهيار اتفاق غزة