شات جي بي تي معرض للتلاعب والخداع

كشفت تحقيقات صحيفة "الغارديان" ثغرات أمنية في أداة البحث بـ شات جي بي تي، التي طوّرتها شركة OpenAI، تتيح التلاعب بمحتوى الأداة باستخدام نصوص مخفية أو تعليمات خارجية، ما قد يؤدي إلى تقديم معلومات مضللة أو تسهيل نشر رموز ضارة من مواقع الويب.

وتتمثل إحدى أبرز المخاطر في تقنية تُعرف باسم "حقن التعليمات"، حيث تُضاف تعليمات خفية إلى صفحات الويب لتغيير ردود ChatGPT بشكل متعمد.

وفي اختبارات أجرتها الصحيفة، تم إنشاء موقع وهمي لمنتج كاميرا، وطلب من ChatGPT تقييم المنتج، لتقدم الأداة في البداية تقييماً متوازناً، لكن عندما أُضيفت نصوص مخفية تُظهر المنتج بصورة إيجابية، تجاهلت الأداة أي تعليقات سلبية وأصدرت ردوداً مشيدة بالمنتج.

هذه المشكلة لا تقتصر على النصوص الموجهة فقط؛ إذ تبين أن النصوص المخفية التي تحتوي على تقييمات مزيفة، حتى دون تعليمات واضحة، يمكنها أيضاً التأثير على استجابات ChatGPT، ما أثار مخاوف من استغلال هذه الثغرات لخداع المستخدمين وتوجيههم نحو قرارات غير مدروسة.

أخطار تقنية ومخاوف أمنية

وفي سياق متصل، أشار الباحث الأمني جاكوب لارسن إلى أن إطلاق هذه الأداة في وضعها الحالي قد يشكل "خطراً كبيراً" إذا استغلها أشخاص لإنشاء مواقع مصممة خصيصاً لخداع المستخدمين أو تقديم معلومات مضللة، لكنه أعرب عن تفاؤله بأن OpenAI ستعمل على معالجة هذه القضايا قبل توفير الأداة بشكل واسع.
من جانبه، استشهد الباحث الأمني توماس روكيا بحادثة أخرى، حيث خسر أحد هواة العملات الرقمية مبلغ 2500 دولار بعد استخدام ChatGPT لكتابة أكواد برمجية، لكن تضمنت الأكواد تعليمات خبيثة بدت مشروعة، لكنها صُممت لسرقة بيانات الاعتماد الخاصة بالمستخدم.

التحق من الذكاء الاصطناعي

أوضح كارستن نول، كبير الخبراء للأمن السيبراني، أن أدوات الذكاء الاصطناعي مثل ChatGPT يجب أن تُعامل كمساعد تقني، لا كمرجع معصوم، وأضاف أن النماذج اللغوية تمتلك ذاكرة واسعة، لكنها تفتقر للقدرة على اتخاذ قرارات حكم دقيقة، مؤكداً على ضرورة التحقق من أي معلومات تُقدمها هذه الأدوات قبل الاعتماد عليها.
وبحسب تقرير "الغارديان"، فعلى الرغم من التحذيرات التي تضعها OpenAI على صفحات ChatGPT بشأن إمكانية وقوع أخطاء، إلا أن الانتشار المتزايد لاستخدام أدوات الذكاء الاصطناعي في البحث يطرح تساؤلات جدية حول تأثير هذه الثغرات على مصداقية المعلومات وسلامة المستخدمين.

المصدر: موقع 24