شات جي بي تي معرض للتلاعب والخداع
تاريخ النشر: 25th, December 2024 GMT
كشفت تحقيقات صحيفة "الغارديان" ثغرات أمنية في أداة البحث بـ شات جي بي تي، التي طوّرتها شركة OpenAI، تتيح التلاعب بمحتوى الأداة باستخدام نصوص مخفية أو تعليمات خارجية، ما قد يؤدي إلى تقديم معلومات مضللة أو تسهيل نشر رموز ضارة من مواقع الويب.
وتتمثل إحدى أبرز المخاطر في تقنية تُعرف باسم "حقن التعليمات"، حيث تُضاف تعليمات خفية إلى صفحات الويب لتغيير ردود ChatGPT بشكل متعمد.
وفي اختبارات أجرتها الصحيفة، تم إنشاء موقع وهمي لمنتج كاميرا، وطلب من ChatGPT تقييم المنتج، لتقدم الأداة في البداية تقييماً متوازناً، لكن عندما أُضيفت نصوص مخفية تُظهر المنتج بصورة إيجابية، تجاهلت الأداة أي تعليقات سلبية وأصدرت ردوداً مشيدة بالمنتج.
هذه المشكلة لا تقتصر على النصوص الموجهة فقط؛ إذ تبين أن النصوص المخفية التي تحتوي على تقييمات مزيفة، حتى دون تعليمات واضحة، يمكنها أيضاً التأثير على استجابات ChatGPT، ما أثار مخاوف من استغلال هذه الثغرات لخداع المستخدمين وتوجيههم نحو قرارات غير مدروسة.
وفي سياق متصل، أشار الباحث الأمني جاكوب لارسن إلى أن إطلاق هذه الأداة في وضعها الحالي قد يشكل "خطراً كبيراً" إذا استغلها أشخاص لإنشاء مواقع مصممة خصيصاً لخداع المستخدمين أو تقديم معلومات مضللة، لكنه أعرب عن تفاؤله بأن OpenAI ستعمل على معالجة هذه القضايا قبل توفير الأداة بشكل واسع.
من جانبه، استشهد الباحث الأمني توماس روكيا بحادثة أخرى، حيث خسر أحد هواة العملات الرقمية مبلغ 2500 دولار بعد استخدام ChatGPT لكتابة أكواد برمجية، لكن تضمنت الأكواد تعليمات خبيثة بدت مشروعة، لكنها صُممت لسرقة بيانات الاعتماد الخاصة بالمستخدم.
أوضح كارستن نول، كبير الخبراء للأمن السيبراني، أن أدوات الذكاء الاصطناعي مثل ChatGPT يجب أن تُعامل كمساعد تقني، لا كمرجع معصوم، وأضاف أن النماذج اللغوية تمتلك ذاكرة واسعة، لكنها تفتقر للقدرة على اتخاذ قرارات حكم دقيقة، مؤكداً على ضرورة التحقق من أي معلومات تُقدمها هذه الأدوات قبل الاعتماد عليها.
وبحسب تقرير "الغارديان"، فعلى الرغم من التحذيرات التي تضعها OpenAI على صفحات ChatGPT بشأن إمكانية وقوع أخطاء، إلا أن الانتشار المتزايد لاستخدام أدوات الذكاء الاصطناعي في البحث يطرح تساؤلات جدية حول تأثير هذه الثغرات على مصداقية المعلومات وسلامة المستخدمين.
المصدر: موقع 24
كلمات دلالية: سقوط الأسد حصاد 2024 الحرب في سوريا عودة ترامب خليجي 26 عام على حرب غزة إيران وإسرائيل إسرائيل وحزب الله غزة وإسرائيل الإمارات شات جي بي تي
إقرأ أيضاً:
الفيضانات..نقائص المدارس ضمن تعليمات الوزير والي العاصمة
ترأس، الوزير الوالي ولاية الجزائر، محمد عبد النور رابحي، اجتماعا للمجلس التنفيذي للولاية. الذي تضمن ملفات متعددة، تمثلت في الإجراءات الوقائية من خطر الفيضانات. والتنشيط الثقافي والفني لمدينة الجزائر، تقييم وضعية الخدمات المدرسية.
واستمع الوزير إلى عرض حول التدخلات الدورية والمستمرة التي تقوم بها مختلف مصالح الولاية في إطار الوقاية من أخطار الفيضانات. والتي تشمل عمليات واسعة لتنظيف وتنقية البالوعات ومجاري المياه.
كما تم التطرّق للمخطط الشامل للتنظيف والتطهير الذي انطلق منذ شهر أوت الماضي. إضافةً إلى متابعة التدخلات المنجزة عقب التقلبات الجوية الأخيرة التي عرفتها ولاية الجزائر، والتي بلغت نسبة تساقط كثيفة غير معهودة بلغت 72 ملم.
وبخصوص وضعية الخدمات المدرسية، تم عرض تقرير مفصل يتضمن تشخيصًا لوضعية المدافئ على مستوى المؤسسات التربوية. إضافة إلى النقل المدرسي والإطعام. حيث أكد الوزير على ضرورة التدخل لاستدراك النقائص الطفيفة المسجلة والتي لا تتجاوز نسبة 2 % من إجمالي المؤسسات التربوية بالولاية التي يقارب عددها 1700 مؤسسة في الأطوار الثلاث.
كما تم خلال الاجتماع تقديم برنامج متكامل لتنشيط مدينة الجزائر خلال العطلة الشتوية، يتضمن نشاطات فنية وثقافية ورياضية متنوعة. على مستوى كل الفضاءات العمومية من المنتزهات والساحات وقاعات العرض. حيث أكد الوزير على ضرورة تهيئتها كلها. مع الحرص على إشراك مختلف الفئات في هذا البرنامج. بغرض ضمان ترفيه وتسلية الأطفال خلال فترة العطلة.
إضغط على الصورة لتحميل تطبيق النهار للإطلاع على كل الآخبار على البلاي ستور
إضغط على الصورة لتحميل تطبيق النهار للإطلاع على كل الآخبار على البلاي ستور
من عالم العقارات إلى الدبلوماسية الفظة.. كيف انعكست النزعة الفوقية في هفوات خطاب توم براك؟