اختراق خدمات الذكاء الاصطناعي مثل ChatGPT و Claude 3 Opus أسهل مما تتخيل
تاريخ النشر: 15th, April 2024 GMT
كشف بحث جديد أن اختراق حماية خدمات الذكاء الاصطناعي المتقدمة مثل ChatGPT و Claude 3 Opus أسهل مما كان يعتقد سابقًا.
وتشير هذه النتائج إلى وجود ثغرات أمنية محتملة في هذه الأنظمة، والتي يمكن استغلالها لإنتاج محتوى ضار أو مضلل.
تقنية "Many-Shot Jailbreaking"
تعتمد تقنية الاختراق المسماة "Many-Shot Jailbreaking" على تقديم سلسلة من التعليمات المتلاعبة بها بعناية إلى نموذج الذكاء الاصطناعي.
سهولة الاختراق
أظهرت الدراسة أن اختراق نماذج الذكاء الاصطناعي باستخدام تقنية "Many-Shot Jailbreaking" ممكن بنسبة نجاح عالية.
وتمكن الباحثون من اختراق نماذج مثل ChatGPT و Claude 3 Opus بسهولة، ما يثير القلق بشأن سلامة هذه الأنظمة.
التداعيات
تثير هذه النتائج مخاوف جدية بشأن إمكانية استخدام نماذج الذكاء الاصطناعي لأغراض ضارة. فمن الممكن أن يستغل المهاجمون هذه الثغرات الأمنية لنشر معلومات مضللة أو التحريض على العنف أو حتى شن هجمات إلكترونية.
الحاجة إلى إجراءات أمنية
يؤكد الباحثون على الحاجة الملحة إلى تطوير إجراءات أمنية أكثر قوة لحماية نماذج الذكاء الاصطناعي من الاختراق.
وتشمل هذه الإجراءات تحسين خوارزميات الكشف عن التلاعب بالتعليمات وتطوير طرق أفضل لفهم وتوقع سلوك النماذج.
مستقبل الذكاء الاصطناعي
على الرغم من هذه المخاوف، لا يزال الذكاء الاصطناعي يحمل إمكانات هائلة لتحسين حياتنا. ولكن من الضروري معالجة هذه الثغرات الأمنية لضمان استخدام هذه التقنية بشكل آمن ومسؤول.
المصدر: صدى البلد
كلمات دلالية: الذکاء الاصطناعی
إقرأ أيضاً:
بيتكوين تهبط إلى أقل من 90 ألف دولار وسط مخاوف من الذكاء الاصطناعي
انخفضت عملة بيتكوين المشفرة، اليوم الخميس، إلى ما دون 90 ألف دولار في التعاملات في إشارة جديدة إلى التوتر السائد في السوق مع تأثر أسهم التكنولوجيا بمخاوف أرباح الذكاء الاصطناعي.
وتراجع الإقبال على المخاطرة بعد أن جاءت توقعات أرباح وإيرادات شركة أوراكل الأميركية دون تقديرات المحللين، في حين أشار المديرون التنفيذيون إلى ارتفاع الإنفاق، في مؤشر على أن نفقات البنية التحتية للذكاء الاصطناعي لا تحقق أرباحا بالسرعة التي كان يأملها المستثمرون.
اقرأ أيضا list of 2 itemslist 1 of 2ما تأثير خفض الفائدة الأميركية على الاقتصاد والمواطن؟list 2 of 2ارتفاع في سعر صرف الليرة السورية مقابل الدولارend of listوقلصت بيتكوين خسائرها وتراجعت في أحدث التعاملات 2 % إلى 90.3 ألف دولار، في حين تراجعت عملة إيثر 3.6% إلى 3197.9 دولارا، متخلية عن مكاسب اليومين الماضيين ومواصلة التراجع الذي بدأ في جلسة التداول الأميركية أمس الأربعاء، بعد أن خفض مجلس الاحتياطي الفدرالي (البنك المركزي الأميركي) أسعار الفائدة.
وقال توني سيكامور محلل السوق لدى "آي.جي في سيدني": "ما رأيناه الليلة الماضية هو أنه على الرغم من أن الأصول المنطوية على مخاطر كانت تبلي بلاء حسنا"، لم تبال العملات الرقمية حقا بذلك.
وأضاف "يحتاج مجال العملات الرقمية لرؤية المزيد من الأدلة المقنعة على أن الانحسار الذي شهدناه من عمليات البيع في 10 أكتوبر/تشرين الأول انتهى".
وخسرت عملة بيتكوين أكثر من 18 ألف دولار في نوفمبر/تشرين الثاني، وهي أكبر خسارة بالدولار منذ مايو/أيار 2021 عندما شهدت العملات الرقمية انهيارا واسعا.
وفقدت بيتكوين نحو ربع قيمتها في شهرين وهبطت من ذروة قاربت 126 ألف دولار في 7 أكتوبر/تشرين الأول إلى ما بين 84 و89 ألف دولار في الفترة الماضية، في تراجع محا أثر أكثر من تريليون دولار من قيمة السوق الإجمالية لنحو 18 ألف أصل رقمي.
الانتقالي يكثف انتشاره العسكري في المهرة ويستحدث نقاط تفتيش