مايكروسوفت تعلن عن تقنية تحمي المستخدمين من الهجمات الخبيثة للذكاء الاصطناعي
تاريخ النشر: 30th, March 2024 GMT
كشفت شركة مايكروسوفت عن تقنية لمنع المستخدمين من خداع روبوتات الدردشة الخاصة بالذكاء الاصطناعي لأغراض خبيثة.
وطرحت الشركة سلسلة من العروض لتقنية Azure AI ، بما في ذلك أداة لمنع ما يسمى بهجمات التتبع والتجسس على المستخدمين.
وقالت سارة بيرد، كبير مسؤولي منتجات الذكاء الاصطناعي في مايكروسوفت، “لقد ظهرت الهجمات كتحدي كبير، حيث تحاول الجهات الفاعلة الخبيثة التلاعب بنظام الذكاء الاصطناعي للقيام بشيء خارج الغرض المقصود منه، مثل إنتاج محتوى ضار أو تسريب بيانات سرية”.
وأضافت بيرد "بالإضافة إلى تخفيف هذه المخاطر الأمنية، تهتم المؤسسات أيضًا بالجودة والموثوقية".
وتابعت "إنهم يريدون التأكد من أن أنظمة الذكاء الاصطناعي الخاصة بهم لا تنتج أخطاء أو تضيف معلومات غير مثبتة في مصادر بيانات التطبيق، مما قد يؤدي إلى تآكل ثقة المستخدم."
ومن المقرر أن تطلق مايكروسوفت قريبًا رسائل نظام الأمان "لتوجيه سلوك النموذج الخاص بالمستخدم نحو مخرجات آمنة ومسؤولة"، كما تقوم بمعاينة تقييمات السلامة لتحديد مدى تعرض التطبيق لهجمات كسر الحماية وتوليد مخاطر المحتوى.
المصدر: صدى البلد
كلمات دلالية: مايكروسوفت روبوتات الدردشة الذكاء الاصطناعي التجسس التتبع منتجات الذكاء الاصطناعي
إقرأ أيضاً:
الداخلية تضبط عصابة تستولى على بيانات بطاقات الدفع الإلكتروني
نجحت الداخلية في ضبط عاطلين بالمنيا لقيامهما بالنصب والإحتيال على المواطنين والإستيلاء على بيانات بطاقات الدفع الإلكترونى الخاصة بهم)، وجاء ذلك فى إطار مكافحة جرائم النصب والإحتيال على المواطنين.
أكدت معلومات وتحريات قطاع مكافحة جرائم الأموال العامة والجريمة المنظمة بالتنسيق مع أجهزة الوزارة المعنية قيام (عاطلين"لهما معلومات جنائية"- مقيمين بدائرة مركز شرطة العدوة بالمنيا) بالنصب والإحتيال على المواطنين من خلال إنتحال صفة موظفين خدمة عملاء بالبنوك المختلفة ، وتمكنهما بموجب ذلك من الإستيلاء على بيانات بطاقات الدفع الإلكترونى الخاصة بالعملاء والإستيلاء على أموالهم.
عقب تقنين الإجراءات أمكن ضبطهما ، وبحوزتهما (3 هواتف محمولة بفحصهم فنياً تبين إحتوائهم على دلائل تؤكد نشاطهما الإجرامى")..وبمواجهتهما إعترفا بنشاطهما الإجرامى على النحو المشار إليه ، وأضافا بإرتكابهما عدد (8) وقائع بذات الأسلوب.
تم إتخاذ الإجراءات القانونية.
مشاركة
ردا على ترامب.. ماكرون “لا يجب مناقشة وضع القرم حاليا”