تحدث  الدكتور أحمد بانافع، خبير أمن المعلومات، بشأن ما كشفته السلطات الأمريكية حول أن برنامج الذكاء الاصطناعي «شات جي بي تي» تم استخدامه في حادثة تفجير السيارة في رأس السنة، أمام برج ترامب في ولاية نيفادا الأمريكية قائلًا: «إن الذكاء الاصطناعي أداة ذات حدين ومثل ما هناك أشخاص يستخدمونه في الأشياء الجيدة، فإن المجرمين يستخدمونه للحصول على المعلومات».

وأضاف «بانافع» خلال مداخلة ببرنامج «صباح جديد» المذاع على شاشة قناة القاهرة الإخبارية، أن هناك مسؤولية تقع على عاتق الشركات المطورة لتقنيات الذكاء الاصطناعي لمنع حوادث جديدة، ولكنها مسؤولية أخلاقية وليست قانونية، موضحًا أن إدارة بايدن أصدرت طلبا رئاسيا بمراقبة تقنيات الذكاء الاصطناعي بشكل تطوعي.

وأشار خبير أمن المعلومات إلى أنه من المستحيل أن تراقب الشركات منتجاتها وتحد منها لأن هذا يقلل من أرباحهم، لافتًا إلى أنه عددا من الولايات الأمريكية حاولت تقيض تقنيات الذكاء الاصطناعي من خلال تحميل الشركات المطورة عن العواقب السيئة لاستخدام الذكاء الاصطناعي، لكن الولايات المشار إليها فشلت في إصدار قرارات بذلك، ومع ذلك فمن الممكن أن يكون حادث نيفادا محركًا لمحاولات تقيض الذكاء الاصطناعي.

 
 

المصدر: صدى البلد

كلمات دلالية: السيارة الذكاء الاصطناعي أمن المعلومات المزيد الذکاء الاصطناعی

إقرأ أيضاً:

تعليم نماذج الذكاء الاصطناعي ما لا تعرفه

أسس فريق من باحثي معهد ماساتشوستس للتكنولوجيا (MIT)، Themis AI لقياس عدم اليقين في نماذج الذكاء الاصطناعي ومعالجة فجوات المعرفة.
تُقدم أنظمة الذكاء الاصطناعي، مثل ChatGPT، إجاباتٍ تبدو معقولة لأي سؤال قد يطرح عليها. لكنها لا تكشف دائمًا عن ثغراتٍ في معارفها أو جوانبَ عدم اليقين فيها.
وقد تُسفر هذه المشكلة عن عواقب وخيمة مع تزايد استخدام أنظمة الذكاء الاصطناعي في مجالاتٍ مثل تطوير الأدوية، وقيادة السيارات ذاتية القيادة.
والآن، تُساعد Themis AI في تحديد عدم اليقين في النماذج وتصحيح النتائج قبل أن تُسبب مشاكل أكبر. ويمكن لمنصة Capsa التابعة للشركة العمل مع أي نموذج تعلُّم آلي للكشف عن النتائج غير الموثوقة وتصحيحها في ثوانٍ. وتعمل المنصة عن طريق تعديل نماذج الذكاء الاصطناعي لتمكينها من اكتشاف الأنماط في معالجة البيانات التي تُشير إلى الغموض أو عدم الاكتمال أو التحيز.
تقول دانييلا روس، المؤسس المشارك لشركة Themis AI والأستاذة في معهد ماساتشوستس للتكنولوجيا، والتي تشغل أيضًا منصب مديرة مختبر علوم الحاسوب والذكاء الاصطناعي في معهد ماساتشوستس للتكنولوجيا "الفكرة هي أخذ نموذج، ودمجه في Capsa، وتحديد أوجه عدم اليقين وأنماط فشل النموذج، ثم تحسينه"، مضيفة "نحن متحمسون لتقديم حل يُحسّن النماذج ويضمن عملها بشكل صحيح".
أسست روس شركة Themis AI عام 2021 بالتعاون مع زميلي بحث سابقين في مختبرها. ومنذ ذلك الحين، ساعدوا شركات الاتصالات في تخطيط الشبكات وأتمتتها، وساعدوا شركات النفط والغاز على استخدام الذكاء الاصطناعي لفهم الصور الزلزالية، ونشروا أبحاثًا حول تطوير روبوتات دردشة أكثر موثوقية.
يقول ألكسندر أميني، أحد الرؤساء المشاركين "نريد تمكين الذكاء الاصطناعي في التطبيقات الأكثر أهمية في كل قطاع". ويضيف "رأينا جميعًا أمثلة على هلوسة الذكاء الاصطناعي أو ارتكابه للأخطاء. ومع اتساع نطاق استخدام الذكاء الاصطناعي، قد تؤدي هذه الأخطاء إلى عواقب وخيمة. يُمكّن ثيميس أي ذكاء اصطناعي من التنبؤ بأخطائه قبل وقوعها".
مساعدة النماذج على معرفة ما تجهله
يبحث مختبر روس في عدم اليقين في النماذج منذ سنوات. في عام 2018، حصلت على تمويل لدراسة موثوقية حل قيادة ذاتية قائم على التعلم الآلي. تقول روس "هذا سياق بالغ الأهمية للسلامة، حيث يُعد فهم موثوقية النموذج أمرًا بالغ الأهمية".
في عمل منفصل، طوّر روس وأميني وزملاؤهما خوارزمية يمكنها اكتشاف التحيز العنصري والجنسي في أنظمة التعرف على الوجه، وإعادة وزن بيانات تدريب النموذج تلقائيًا، مما يُظهر أنها أزالت التحيز. عملت الخوارزمية من خلال تحديد الأجزاء غير المُمثلة من بيانات التدريب الأساسية، وتوليد عينات بيانات جديدة ومتشابهة لإعادة توازنها.
في عام 2021، أظهر المؤسسون المشاركون إمكانية استخدام نهج مماثل لمساعدة شركات الأدوية على استخدام نماذج الذكاء الاصطناعي للتنبؤ بخصائص الأدوية المرشحة. وأسسوا شركة Themis AI في وقت لاحق من ذلك العام.
تؤكد روس "قد يوفر توجيه اكتشاف الأدوية الكثير من المال. كانت هذه هي حالة الاستخدام التي جعلتنا ندرك مدى قوة هذه الأداة".
تعمل Themis AI اليوم مع شركات في مجموعة متنوعة من الصناعات، والعديد من هذه الشركات تبني نماذج لغوية ضخمة. باستخدام Capsa، تتمكن هذه النماذج من تحديد مستوى عدم اليقين الخاص بها لكل ناتج.
يعتقد فريق "ثيميس" للذكاء الاصطناعي أن الشركة في وضع جيد لتحسين أحدث تقنيات الذكاء الاصطناعي المتطورة باستمرار. 

أخبار ذات صلة "واتساب" يختبر ميزة إنشاء مساعد مدعوم بالذكاء الاصطناعي ريديت تلاحق "أنثروبيك" قضائياً بتهمة استغلال بيانات المستخدمين دون إذن المصدر: الاتحاد - أبوظبي

مقالات مشابهة

  • “فيفا” يعتمد تقنيات مبتكرة بالذكاء الاصطناعي في “كأس العالم للأندية 2025”
  • الدولار يتراجع عالميا وسط تباطؤ الاقتصاد الأمريكي وتصاعد التوترات التجارية.. خبير يوضح
  • الشركات الأمريكية تتمسك بالصين رغم الرسوم الجمركية المرتفعة
  • تعليم نماذج الذكاء الاصطناعي ما لا تعرفه
  • نقابات العمال الأمريكية تبدأ معركتها ضد الذكاء الاصطناعي
  • السوار الطبي.. تقنيات بالذكاء الاصطناعي وإنترنت الأشياء
  • خبير أمن سيبراني: الذكاء الاصطناعي قدّم أساليب مبتكرة للاحتيال الإلكتروني
  • رادار الذكاء الاصطناعي يرعب السائقين في تركيا
  • خبير مواشي يوضح علامات الأضحية السليمة وكيف تتجنب العيوب الشرعية.. فيديو
  • أمر وارد تقنيًا.. خبير أمن معلومات يكشف ما حدث مع حساب أحمد السقا