اختراق خدمات الذكاء الاصطناعي مثل ChatGPT و Claude 3 Opus أسهل مما تتخيل
تاريخ النشر: 15th, April 2024 GMT
كشف بحث جديد أن اختراق حماية خدمات الذكاء الاصطناعي المتقدمة مثل ChatGPT و Claude 3 Opus أسهل مما كان يعتقد سابقًا.
وتشير هذه النتائج إلى وجود ثغرات أمنية محتملة في هذه الأنظمة، والتي يمكن استغلالها لإنتاج محتوى ضار أو مضلل.
تقنية "Many-Shot Jailbreaking"
تعتمد تقنية الاختراق المسماة "Many-Shot Jailbreaking" على تقديم سلسلة من التعليمات المتلاعبة بها بعناية إلى نموذج الذكاء الاصطناعي.
سهولة الاختراق
أظهرت الدراسة أن اختراق نماذج الذكاء الاصطناعي باستخدام تقنية "Many-Shot Jailbreaking" ممكن بنسبة نجاح عالية.
وتمكن الباحثون من اختراق نماذج مثل ChatGPT و Claude 3 Opus بسهولة، ما يثير القلق بشأن سلامة هذه الأنظمة.
التداعيات
تثير هذه النتائج مخاوف جدية بشأن إمكانية استخدام نماذج الذكاء الاصطناعي لأغراض ضارة. فمن الممكن أن يستغل المهاجمون هذه الثغرات الأمنية لنشر معلومات مضللة أو التحريض على العنف أو حتى شن هجمات إلكترونية.
الحاجة إلى إجراءات أمنية
يؤكد الباحثون على الحاجة الملحة إلى تطوير إجراءات أمنية أكثر قوة لحماية نماذج الذكاء الاصطناعي من الاختراق.
وتشمل هذه الإجراءات تحسين خوارزميات الكشف عن التلاعب بالتعليمات وتطوير طرق أفضل لفهم وتوقع سلوك النماذج.
مستقبل الذكاء الاصطناعي
على الرغم من هذه المخاوف، لا يزال الذكاء الاصطناعي يحمل إمكانات هائلة لتحسين حياتنا. ولكن من الضروري معالجة هذه الثغرات الأمنية لضمان استخدام هذه التقنية بشكل آمن ومسؤول.
المصدر: صدى البلد
كلمات دلالية: الذکاء الاصطناعی
إقرأ أيضاً:
الصين تحذر من احتكار الذكاء الاصطناعي
ذكر رئيس مجلس الدولة الصيني لي تشيانج أن بلاده ستقود إنشاء منظمة دولية لتطوير الذكاء الاصطناعي بشكل مشترك، سعيا لضمان عدم استئثار عدد محدود من الدول والشركات على هذه التكنولوجيا التي تغير العالم.
وقال لي تشيانج أمام مؤتمر الذكاء الاصطناعي العالمي في شنغهاي اليوم السبت إن الذكاء الاصطناعي يحمل مخاطر تتراوح بين فقدان الوظائف على نطاق واسع إلى الاضطرابات الاقتصادية التي تتطلب من الدول العمل معا لمعالجتها، حسب وكالة بلومبرج للأنباء اليوم السبت.
وتابع ثاني أكبر مسؤول في بكين خلال القمة التكنولوجية السنوية الأهم في الصين أن هذا يعني المزيد من التبادلات الدولية.
ولم يذكر لي أي دولة في خطابه القصير الذي ألقاه في بداية الحدث. لكن مسؤولين تنفيذيين ومسؤولين صينيين استهدفوا جهود واشنطن الرامية إلى الحد من قطاع التكنولوجيا في الدولة الأسيوية، بما في ذلك فرض قيود على تصدير رقائق شركة إنفيديا كورب التي تعد حيوية لتطوير الذكاء الاصطناعي.
مباريات سيراميكا كليوباترا فى الدور الأول 2025-2026