مايكروسوفت تعلن عن تقنية تحمي المستخدمين من الهجمات الخبيثة للذكاء الاصطناعي
تاريخ النشر: 30th, March 2024 GMT
كشفت شركة مايكروسوفت عن تقنية لمنع المستخدمين من خداع روبوتات الدردشة الخاصة بالذكاء الاصطناعي لأغراض خبيثة.
وطرحت الشركة سلسلة من العروض لتقنية Azure AI ، بما في ذلك أداة لمنع ما يسمى بهجمات التتبع والتجسس على المستخدمين.
وقالت سارة بيرد، كبير مسؤولي منتجات الذكاء الاصطناعي في مايكروسوفت، “لقد ظهرت الهجمات كتحدي كبير، حيث تحاول الجهات الفاعلة الخبيثة التلاعب بنظام الذكاء الاصطناعي للقيام بشيء خارج الغرض المقصود منه، مثل إنتاج محتوى ضار أو تسريب بيانات سرية”.
وأضافت بيرد "بالإضافة إلى تخفيف هذه المخاطر الأمنية، تهتم المؤسسات أيضًا بالجودة والموثوقية".
وتابعت "إنهم يريدون التأكد من أن أنظمة الذكاء الاصطناعي الخاصة بهم لا تنتج أخطاء أو تضيف معلومات غير مثبتة في مصادر بيانات التطبيق، مما قد يؤدي إلى تآكل ثقة المستخدم."
ومن المقرر أن تطلق مايكروسوفت قريبًا رسائل نظام الأمان "لتوجيه سلوك النموذج الخاص بالمستخدم نحو مخرجات آمنة ومسؤولة"، كما تقوم بمعاينة تقييمات السلامة لتحديد مدى تعرض التطبيق لهجمات كسر الحماية وتوليد مخاطر المحتوى.
المصدر: صدى البلد
كلمات دلالية: مايكروسوفت روبوتات الدردشة الذكاء الاصطناعي التجسس التتبع منتجات الذكاء الاصطناعي
إقرأ أيضاً:
برنامج دايموند للذكاء الاصطناعي يختتم مرحلته الأولى بنجاح
أعلنت شركة دايموند بروفيشنال كونسلتانتس عن اختتام برنامجها التدريبي المكثف في الذكاء الاصطناعي "AI Track Internship Program"، والذي امتد على مدار شهرين من 20 يوليو حتى 20 سبتمبر 2025، بمشاركة مجموعة من طلاب الجامعات المصرية المتميزين.
يهدف البرنامج إلى تمكين الشباب بالمهارات العملية في مجالات الذكاء الاصطناعي والتحليلات المتقدمة، وإعداد جيل جديد من الكفاءات القادرة على قيادة الابتكار في السوق المصري والإقليمي.
وخلال فترة التدريب داخل مقر الشركة بالقاهرة، خاض المشاركون تجربة ميدانية متكاملة تضمنت العمل على مشاريع حقيقية وتحليل بيانات معقدة وتطوير نماذج تنبؤية، إلى جانب تطبيق حلول تعتمد على الذكاء الاصطناعي في سيناريوهات تحاكي الواقع العملي.
اعتمدت دايموند في البرنامج على مبدأ "التعلم بالممارسة"، وهو نهج يدمج بين المعرفة النظرية والتطبيق العملي لضمان استيعاب فعلي لمفاهيم الذكاء الاصطناعي، مما مكّن المتدربين من تطوير مهارات التفكير النقدي وحل المشكلات التقنية بطريقة إبداعية.
وأشارت الشركة إلى أن الحماس والانضباط الذي أبداه المشاركون عكس وعيًا متزايدًا لدى الشباب بأهمية امتلاك أدوات الثورة التكنولوجية الجديدة.
واختتم البرنامج باحتفالية أقيمت في مقر الشركة، بحضور المهندس حاتم القاضي، المؤسس والرئيس التنفيذي لشركة دايموند بروفيشنال كونسلتانتس، الذي عبّر عن فخره بالمستوى الذي وصل إليه المتدربون، مؤكدًا أن البرنامج يمثل نموذجًا حقيقيًا لربط التعليم بسوق العمل، وأن الاستثمار في الشباب هو الطريق الأمثل لتحقيق التحول الرقمي المستدام في مصر والمنطقة.
كما أُقيمت جلسة حوارية مفتوحة مع المتدربين ناقشت أهم الدروس المستفادة من التجربة، والتحديات التي واجهوها، وأهدافهم المستقبلية في عالم التكنولوجيا. وشهد الحفل تكريم الطالب يوسف محمود بجائزة أفضل أداء في البرنامج تقديرًا لتميزه العملي والعلمي، حيث تسلم درع التميز من الرئيس التنفيذي وسط أجواء احتفالية.
قال المهندس أنس الخطيب، رئيس قطاع التكنولوجيا في دايموند بروفيشنال كونسلتانتس، إن الشركة ترى في تمكين الشباب "مهمة وطنية ومعرفية"، مؤكدًا أن الفجوة بين ما يُدرّس أكاديميًا وما يتطلبه سوق العمل في الذكاء الاصطناعي تتسع يومًا بعد يوم، وأن دايموند تسعى إلى سد هذه الفجوة من خلال مبادرات واقعية تتيح للمواهب تجربة التطوير من داخل بيئة العمل التقنية الفعلية.
وأوضح الخطيب أن البرنامج لم يكن مجرد تدريب نظري، بل تجربة متكاملة تهدف إلى إعداد كوادر قادرة على المساهمة في تطوير منصة "ذكاء ZAKAA"، التي ابتكرتها الشركة لدعم اتخاذ القرار المؤسسي وتعزيز الامتثال بالاعتماد على الذكاء الاصطناعي والتحليلات المتقدمة.
وأشار إلى أن بعض المشروعات التي نفذها المتدربون سيتم دمجها فعليًا في منظومة ذكاء ZAKAA، مما يتيح توظيف مخرجات التدريب في تطوير أدوات تحليل وتوليد معرفي حقيقية.
وأكد الخطيب أن دايموند بروفيشنال تخطط لإطلاق سلسلة جديدة من البرامج في عام 2026 تتضمن مسارات أكثر تقدمًا في مجالات الذكاء التوليدي، والتحليلات التنبؤية، وإدارة البيانات، وذكاء القرار، في إطار استراتيجية طويلة الأمد تهدف إلى بناء منظومة معرفية متكاملة تمكّن الشباب المصري من المشاركة في قيادة التحول الرقمي على المستوى الإقليمي.
واختتم حديثه بالتأكيد على أن الشركة ستواصل دعمها للمواهب الواعدة عبر مبادرات تعليمية وتدريبية متواصلة، داعيًا المهتمين بالتكنولوجيا إلى متابعة منصة "Diamond Insights" على موقع لينكدإن للاطلاع على أحدث التحليلات التقنية، وفرص التدريب المقبلة التي تستهدف بناء جيل جديد من المبدعين في عالم الذكاء الاصطناعي.
اجتماع تنسيقي لمناقشة تطوير منظومة الدواء بالمستشفيات الجامعية بقنا