ثغرة أمنية تسمح باختراق الأجهزة المنزلية عبر جوجل جيمني
تاريخ النشر: 11th, August 2025 GMT
أظهرت التقارير والعروض التوضيحية الأخيرة من مؤتمر "بلاك هات" لأمن الحاسوب كيف يمكن لمطالبات الذكاء الاصطناعي الخارجية من جيميني، المعروفة باسم "برومبت وير"، أن تخدع الذكاء الاصطناعي وتجبره على التحكم في الأجهزة الذكية المتصلة بجهاز جوجل هوم.
وتعد هذه مشكلةً تواجهها جوجل، التي تعمل على إضافة ميزات جيميني إلى تطبيق جوجل هوم واستبدال مساعد جوجل بمساعد الذكاء الاصطناعي الجديد.
فوفقا لموقع "cnet"يكمن سر هذه الثغرات الخطيرة في تصميم جيميني للاستجابة للأوامر الأساسية باللغة الإنجليزية.
تُظهر العروض التوضيحية كيف يقرأ جيميني رسالةً تُضاف سرا إلى دعوة مُدرجة في تقويم جوجل بنفس الطريقة التي يفحص بها بيانات تطبيقات جوجل الأخرى، كما هو الحال عند تلخيص رسائل البريد الإلكتروني.
ولكن في هذه الحالة، تُعطي هذه الإضافة جيميني أمرًا محددًا للغاية، مثل إنشاء وكيل للتحكم في الأجهزة اليومية من جوجل هوم.
وأنشأ باحثون من جامعة تل أبيب، ومنهم بن ناسي وستاف كوهين وأور يائير، موقعًا إلكترونيًا يعرض تقريرهم بعنوان "الدعوة هي كل ما تحتاجه".
ويتضمن الموقع مقاطع فيديو توضح كيفية استخدام إشارات جيميني الصحيحة لفتح النوافذ، أو إطفاء الأنوار، أو تشغيل المرجل، أو تحديد الموقع الجغرافي للمستخدم الحالي.
عميل مخفيكما تُظهر دراسة "الدعوة هي كل ما تحتاجه" ، يُمكن إخفاء مُطالبة مُفصّلة في عنوان دعوة بسيط في التقويم أو ما شابه، هذه الأوامر تُمكّن جيميني من إنشاء عميل مخفي وانتظار ردّ شائع (مثل قول "شكرًا لك" في بريد إلكتروني) لتفعيل إجراءات مُعيّنة.
حتى مع صرامة ضوابط التقويم لديك، قد تُنفَّذ بعض هجمات البرامج السريعة هذه من خلال عناصر أخرى يفحصها جيميني، مثل سطر موضوع البريد الإلكتروني.
وقد أظهرت عروض توضيحية أخرى كيف يمكن لأوامر مماثلة أن تؤدي إلى رسائل غير مرغوب فيها، وحذف أحداث، وبث تلقائي عبر زووم، وحيل أخرى مزعجة.
هل يجب أن تقلق بشأن أجهزة Google Home الخاصة بك؟
صرحت جوجل لموقع CNET بأنها قدمت إصلاحات متعددة لمعالجة ثغرات برنامج Promptware منذ أن قدم الباحثون تقريرهم لجوجل في فبراير.
المصدر: صدى البلد
كلمات دلالية: الذكاء الاصطناعي تطبيق جوجل مساعد الذكاء الاصطناعي الذکاء الاصطناعی
إقرأ أيضاً:
إطلاق CharGPT5 في خطوة نحو الذكاء الاصطناعي الفائق
أطلقت شركة "أوبن إيه آي" الرائدة في مجال الذكاء الاصطناعي التوليدي منذ إطلاق "تشات جي بي تي" أواخر عام 2022، نموذجا جديدا الخميس في ظل احتدام المنافسة لتطوير أدوات ذكاء اصطناعي أكثر فعالية.
وأكد الرئيس التنفيذي للشركة سام ألتمان خلال مؤتمر صحافي أن استخدام "جي بي تي 5 أشبه بالتحدث إلى خبير حاصل على درجة الدكتوراه في أي موضوع".
وشبّه ألتمان نسخة "جي بي تي 3" GPT-3 التي كانت تعمل في الإصدار الأول من "تشات جي بي تي"، بطالب ثانوي "يُجيب أحيانا إجابة صحيحة، وأحيانا أخرى بإجابة غير منطقية"، فيما "جي بي تي 4" يشبه طالبا جامعيا.
تتنافس شركات التكنولوجيا العملاقة على تطوير نماذج جديدة أكثر تطورا قادرة على "التفكير" وأداء المهام بشكل مستقل، وتركز أنظارها على ما يُسمى بالذكاء الاصطناعي "العام" أو "الفائق الذكاء"، الذي يتمتع بقدرات معرفية تفوق قدرات البشر.
تسارعت وتيرة التطوير مع سعي مختلف المجموعات لجعل أدوات المساعدة بالذكاء الاصطناعي - أبرزها تشات جي بي تي وجيميناي (غوغل) وميتا إيه آي وكلود (أنثروبيك)- لا غنى عنها في الحياة اليومية لأكبر عدد ممكن من المستخدمين والمطورين.
تحاول غوغل وميتا (فيسبوك وإنستغرام) الإفادة في هذا السباق من قاعدتيهما الضخمتين من المستخدمين، فيما رسّخت أنثروبيك مكانتها، لا سيما بين المحترفين. أما "غروك" من شركة "إكس إيه آي" التابعة لإيلون ماسك، فقد تم دمجها مباشرةً في منصة إكس الاجتماعية.
أحدثت شركة "ديب سيك" الصينية الناشئة ضجة في وقت سابق من هذا العام بإطلاقها "ار 1"، وهو نموذج مفتوح المصدر ومتقدم رغم القيود المرتبطة بالتكنولوجيا والميزانية.
لكن "تشات جي بي تي" لا يزال الاسم الأكثر شهرة بين عامة الناس، إذ يضم ما يقرب من 700 مليون مستخدم نشط أسبوعيا.
"قوة خارقة"
قدّمت "أوبن إيه آي" نموذج "جي بي تي 5" على أنه "الأذكى" و"الأسرع" و"الأكثر فائدة" حتى الآن.
وقال سام ألتمام "يُمكن لـ+جي بي تي 5+ أن يُقدم لك إنجازاتٍ مذهلة. يُمكنه إنشاء برامج فورية عند الطلب (...) يتمتع بقوة خارقة مذهلة".طلب أحد مهندسي "جي بي تي 5"، يان دوبوا، من مُساعد الذكاء الاصطناعي المُستخدم في اللغة اليومية إنشاء تطبيق إلكتروني لتعلم اللغة الفرنسية باستخدام الألعاب.
أنتج "جي بي تي 5" على الفور مئات الأسطر البرمجية، وبدأ الموقع الإلكتروني الأساسي بالعمل في دقائق.
ووفقا للشركة، فإن "جي بي تي 5" أقل عُرضة لتقديم إجابات غير منطقية مقارنة بالنماذج السابقة، فهو "يُقر" عندما لا يعرف بدلا من اختلاق إجابة تبدو مُقنعة في الظاهر لكنها غير دقيقة.
كما جرى تعزيز ميزات الأمان في الإصدار الجديد. وأوضح أحد مسؤولي أمن المنتجات في الشركة أليكس بيوتيل أنه "في السابق، كان النهج ثنائيا. إذا بدا الاستعلام آمنا، فسيعمل النموذج، وإذا لم يكن كذلك، فلن يعمل".
مع "جي بي تي 5"، في حالة الشك في وجود دوافع إجرامية محتملة، "سيكتفي النموذج بتقديم معلومات عامة لا يمكن أن تُسبب ضررا".سيصبح المساعد الرقمي قابلا للتخصيص أيضا، إذ سيتمكن المستخدم من اختيار نبرة موجزة أو ودية أو ساخرة، كما سيتاح له الاتصال بخدمة الرسائل الإلكترونية في غوغل "جي مايل".
استثمارات هائلة
أعلنت مايكروسوفت، المستثمر الرئيسي في "أوبن إيه آي"، أن "جي بي تي 5" بات متاحا على منصاتها المختلفة للمهندسين.علق إيلون ماسك على إكس قائلا "أوبن إيه آي ستسحق مايكروسوفت".
تأسست "أوبن إيه آي" كمنظمة غير ربحية عام 2015، وكان إيلون ماسك أحد مؤسسيها، بهدف إنشاء ذكاء اصطناعي عام يُفيد البشرية جمعاء.
صرح سام ألتمان "من الواضح أن جي بي تي 5 نموذج ذكي، لكنه يفتقر إلى عنصر مهم لتحقيق الذكاء الاصطناعي العام (...) فهو ليس نموذجا يتعلم باستمرار من الأشياء التي يكتشفها".
وأضاف "من الواضح أن الأمر سيتطلب استثمارات ضخمة في قوة الحوسبة للوصول إلى هذا الهدف، لكننا نعتزم الاستمرار".قُدرت قيمة هذه الشركة الناشئة الرائدة في سيليكون فالي بـ300 مليار دولار في آذار/مارس.
لجنة أمن محلية الخرطوم.. طوف أمني مشترك بالسوق المحلي والمركزي بقوة مشتركة من الشرطة وجهاز المخابرات والاستخبارات