تمكن هاكر يُعرف باسم "p0pular.eth" من اختراق بوت ذكاء اصطناعي يُدعى "Freysa" في تجربة مدفوعة الأجر، وحقق جائزة مالية قدرها 47000 دولار بعد 482 محاولة ذكية. 

بحسب "the-decoder"صُمم البوت لمنع تحويل الأموال تحت أي ظرف، ولكن تم التلاعب به عبر رسالة نصية متقنة تخطت أنظمة الأمان.

كيف تمت عملية الاختراق؟

 أقنع الهاكر البوت بأنه يمتلك صلاحيات إدارية، مما منعه من عرض تحذيرات الأمان.

 أعاد الهاكر برمجة وظيفة "approveTransfer" بحيث تجعل البوت يعتقد أن العملية تتعلق بقبول دفعات واردة بدلاً من تحويل أموال للخارج.

 أعلن الهاكر عن وديعة مزيفة بقيمة 100 دولار. ونتيجة لذلك، قام البوت بتنفيذ وظيفة التحويل وأرسل الرصيد الكامل الذي يمتلكه، وهو 13.19 ETH (حوالي 47000 دولار)، إلى الهاكر.

تجربة مدفوعة الأجر لزيادة التحدي

عملت التجربة كمسابقة مدفوعة الأجر، حيث دفع المشاركون رسومًا زادت تدريجيًا مع تضخم قيمة الجائزة.

بدأت الرسوم من 10 دولارات لكل محاولة ووصلت إلى 4,500 دولار في النهاية.

تم تقسيم الرسوم بين الجائزة (70%) والمطور (30%)، مع إتاحة الشيفرة المصدرية للعقد الذكي وواجهة المستخدم لضمان الشفافية.

متوسط التكلفة لكل رسالة بلغ 418.93 دولار، مع مشاركة 195 مشاركًا في المجمل.

مخاوف أمنية بشأن الذكاء الاصطناعي

تكشف هذه الحالة عن مدى هشاشة أنظمة الذكاء الاصطناعي أمام هجمات التلاعب بالنصوص (Prompt Injections)، وهي تقنية تعتمد على التلاعب اللغوي بدلاً من الاختراق التقني.

 ورغم أن هذه الثغرات ظهرت منذ إصدار GPT-3، إلا أنه لا توجد حتى الآن دفاعات فعالة تمنع مثل هذه الهجمات.

انعكاسات على التطبيقات العملية

يثير نجاح هذا الاختراق البسيط نسبيًا قلقًا واسعًا حول أمن أنظمة الذكاء الاصطناعي المستخدمة في تطبيقات حساسة مثل المعاملات المالية. 

فمع زيادة استخدام الذكاء الاصطناعي في الحياة اليومية، يصبح تطوير أنظمة أمان متقدمة ضرورة حتمية لحماية البيانات والمستخدمين.

المصدر: صدى البلد

كلمات دلالية: دولار ذكاء اصطناعي هاكر المزيد المزيد الذکاء الاصطناعی

إقرأ أيضاً:

تليفونك بيراقبك .. كيف تجمع أدوات الذكاء الاصطناعي بياناتك

تجمع أدوات الذكاء الاصطناعي بياناتٍ كثيرةً عن المستخدمين للتنبؤ بسلوكهم وفي المقابل، يمكنك منعها من تتبعك باتباع بعض الخطوات.

مخاوف كبيرة

وفقا لموقع" indiatvnews "فمن استخدام مساعدي الذكاء الاصطناعي مثل ChatGPT أو Microsoft Copilot إلى تتبع روتين اللياقة البدنية اليومي باستخدام الساعات الذكية، يتفاعل العديد من الأفراد مع أنظمة أو أدوات الذكاء الاصطناعي يوميًا. وبينما تُعزز هذه التقنيات بلا شك الراحة، إلا أنها تُثير أيضًا مخاوف كبيرة بشأن خصوصية البيانات. 

جمع المعلومات عنك

أشار  كريستوفر رامزان، الأستاذ المساعد في الأمن السيبراني بجامعة وست فرجينيا،  أن برامج الذكاء الاصطناعي التوليدية تعتمد على كميات هائلة من بيانات التدريب لإنتاج محتوى جديد، مثل النصوص أو الصور، بينما يستخدم الذكاء الاصطناعي التنبئي البيانات للتنبؤ بالنتائج بناءً على سلوكك السابق - مثل تقييم احتمالية تحقيق هدفك اليومي من الخطوات أو التوصية بأفلام قد تستمتع بها. يمكن استخدام كلا النوعين من الذكاء الاصطناعي لجمع معلومات عن الأفراد.


كيف تجمع أدوات الذكاء الاصطناعي البيانات

يوضح رامزان أن مساعدي الذكاء الاصطناعي المُولِّدين، مثل ChatGPT وGoogle Gemini، يجمعون جميع المعلومات التي يُدخلها المستخدمون في مربع الدردشة. ويُسجَّل كل سؤال وإجابة ورسالة يُدخلها المستخدمون، ويُخزَّن ويُحلَّل لتحسين نموذج الذكاء الاصطناعي. ويُشير إلى أنه على الرغم من أن OpenAI تُتيح للمستخدمين خيار إلغاء الاشتراك في استخدام المحتوى إلا أنها لا تزال تجمع البيانات الشخصية وتحتفظ بها. ورغم ادعاء بعض الشركات إخفاء هوية هذه البيانات - أي تخزينها دون تحديد هوية مُقدِّميها - إلا أن خطر إعادة تحديد هوية البيانات لا يزال قائمًا.

خصوصية بيانات

يوضح رامزان أنه بالإضافة إلى مساعدي الذكاء الاصطناعي ، تجمع منصات التواصل الاجتماعي مثل فيسبوك وإنستجرام وتيك توك بيانات مستخدميها باستمرار لتحسين نماذج الذكاء الاصطناعي التنبؤية. 

وعلاوة على ذلك، يشير رامزان إلى أن الأجهزة الذكية، بما في ذلك مكبرات الصوت المنزلية، وأجهزة تتبع اللياقة البدنية، والساعات الذكية، تجمع المعلومات باستمرار من خلال أجهزة الاستشعار البيومترية، والتعرف على الصوت، وتتبع الموقع..

غالبًا ما تُخزَّن البيانات التي تجمعها أدوات الذكاء الاصطناعي في البداية لدى شركة موثوقة، ولكن يُمكن بيعها أو مشاركتها بسهولة مع مؤسسات قد لا تكون بنفس القدر من الموثوقية ويؤكد  أن القوانين الحالية لا تزال قيد التطوير لمواجهة تحديات الذكاء الاصطناعي وخصوصية البيانات.

طباعة شارك الذكاء الاصطناعي أدوات الذكاء الاصطناعي خصوصية البيانات جمع معلومات البيانات الشخصية

مقالات مشابهة

  • جوجل تنهي شراكتها مع أحد كبار شركاء الذكاء الاصطناعي بسبب زوكربيرغ
  • تراجع الهيمنة الأمريكية في سباق الذكاء الاصطناعي
  • تليفونك بيراقبك .. كيف تجمع أدوات الذكاء الاصطناعي بياناتك
  • سام ألتمان.. رأس الحربة في الذكاء الاصطناعي الإمبريالي
  • سامسونج تكشف عن أرخص هواتف الذكاء الاصطناعي
  • علماء روس يستخدمون الذكاء الاصطناعي في فهم الجينات
  • هل يخفي الذكاء الاصطناعي عنصرية خلف خوارزمياته الذكية؟
  • كيف غير الذكاء الاصطناعي شكل التصعيد بين إيران والاحتلال؟
  • واتساب تكشف عن 4 ميزات جديدة لتعزيز الذكاء الاصطناعي للمستخدمين
  • «ميتا» تستثمر 14.3 مليار دولار في شركة الذكاء الاصطناعي «سكيل»