أوبن إيه آي تحذر: نماذجنا قد تمثل خطرا سيبرانيا كبيرا

حذرت "أوبن إيه آي" من التطور الحادث في نماذج الذكاء الاصطناعي، مؤكدة أن نموذجها القادم سيشكل تهديدا سيبرانيا عالي الخطورة سواء في بناء ثغرات أو المساعدة في تنفيذ المخططات المعقدة وفق تقرير "رويترز".

وتابعت الشركة في تدوينة نشرتها عبر موقعها الرسمي قائلة إنها تهتم بالاستثمار في تعزيز قدرات النماذج السيبرانية لاستخدامها في مهام الأمن السيبراني الدفاعي، مشيرة إلى أن هذا بغرض "تمكين خبراء الأمن السيبراني من تدقيق الأكواد البرمجية وتصحيح الثغرات بسهولة أكبر".

ويشير التقرير إلى أن "أوبن إيه آي" تعتمد على مزيج من القيود وضوابط الوصول لمنع استخدام النموذج بشكل خاطئ، فضلا عن تحصين البنية التحتية وضوابط الخروج والمراقبة.

كما تدرس الشركة منح المستخدمين الذين يعملون في قطاع الأمن السيبراني وصولا إلى نماذج ذات قوة أكبر من النماذج المتاحة لكافة المستخدمين، مؤكدة أن هذا يتم بعد تدقيق المستخدم والتأكد من استحقاقه لهذا الوصول.

وتؤسس الشركة مجموعة استشارية تدعى مجلس مخاطر الحدود، وهي تجمع بين خبراء الأمن السيبراني الدفاعي والعاملين في القطاع الأمني، وتستمتع هذه المجموعة بتعاون وثيق مع فرق "أوبن إيه آي" الداخلية.

ويذكر بأن استخدام "شات جي بي تي" وغيره من أدوات الذكاء الاصطناعي في تطوير الثغرات والبرمجيات الخبيثة ممكن رغم القيود التي تضعها الشركات على نماذجها، وذلك لوجود طرق للالتفاف حول هذه القيود.

المصدر: الجزيرة