تعليم نماذج الذكاء الاصطناعي ما لا تعرفه
تاريخ النشر: 6th, June 2025 GMT
أسس فريق من باحثي معهد ماساتشوستس للتكنولوجيا (MIT)، Themis AI لقياس عدم اليقين في نماذج الذكاء الاصطناعي ومعالجة فجوات المعرفة.
تُقدم أنظمة الذكاء الاصطناعي، مثل ChatGPT، إجاباتٍ تبدو معقولة لأي سؤال قد يطرح عليها. لكنها لا تكشف دائمًا عن ثغراتٍ في معارفها أو جوانبَ عدم اليقين فيها.
وقد تُسفر هذه المشكلة عن عواقب وخيمة مع تزايد استخدام أنظمة الذكاء الاصطناعي في مجالاتٍ مثل تطوير الأدوية، وقيادة السيارات ذاتية القيادة.
والآن، تُساعد Themis AI في تحديد عدم اليقين في النماذج وتصحيح النتائج قبل أن تُسبب مشاكل أكبر. ويمكن لمنصة Capsa التابعة للشركة العمل مع أي نموذج تعلُّم آلي للكشف عن النتائج غير الموثوقة وتصحيحها في ثوانٍ. وتعمل المنصة عن طريق تعديل نماذج الذكاء الاصطناعي لتمكينها من اكتشاف الأنماط في معالجة البيانات التي تُشير إلى الغموض أو عدم الاكتمال أو التحيز.
تقول دانييلا روس، المؤسس المشارك لشركة Themis AI والأستاذة في معهد ماساتشوستس للتكنولوجيا، والتي تشغل أيضًا منصب مديرة مختبر علوم الحاسوب والذكاء الاصطناعي في معهد ماساتشوستس للتكنولوجيا "الفكرة هي أخذ نموذج، ودمجه في Capsa، وتحديد أوجه عدم اليقين وأنماط فشل النموذج، ثم تحسينه"، مضيفة "نحن متحمسون لتقديم حل يُحسّن النماذج ويضمن عملها بشكل صحيح".
أسست روس شركة Themis AI عام 2021 بالتعاون مع زميلي بحث سابقين في مختبرها. ومنذ ذلك الحين، ساعدوا شركات الاتصالات في تخطيط الشبكات وأتمتتها، وساعدوا شركات النفط والغاز على استخدام الذكاء الاصطناعي لفهم الصور الزلزالية، ونشروا أبحاثًا حول تطوير روبوتات دردشة أكثر موثوقية.
يقول ألكسندر أميني، أحد الرؤساء المشاركين "نريد تمكين الذكاء الاصطناعي في التطبيقات الأكثر أهمية في كل قطاع". ويضيف "رأينا جميعًا أمثلة على هلوسة الذكاء الاصطناعي أو ارتكابه للأخطاء. ومع اتساع نطاق استخدام الذكاء الاصطناعي، قد تؤدي هذه الأخطاء إلى عواقب وخيمة. يُمكّن ثيميس أي ذكاء اصطناعي من التنبؤ بأخطائه قبل وقوعها".
مساعدة النماذج على معرفة ما تجهله
يبحث مختبر روس في عدم اليقين في النماذج منذ سنوات. في عام 2018، حصلت على تمويل لدراسة موثوقية حل قيادة ذاتية قائم على التعلم الآلي. تقول روس "هذا سياق بالغ الأهمية للسلامة، حيث يُعد فهم موثوقية النموذج أمرًا بالغ الأهمية".
في عمل منفصل، طوّر روس وأميني وزملاؤهما خوارزمية يمكنها اكتشاف التحيز العنصري والجنسي في أنظمة التعرف على الوجه، وإعادة وزن بيانات تدريب النموذج تلقائيًا، مما يُظهر أنها أزالت التحيز. عملت الخوارزمية من خلال تحديد الأجزاء غير المُمثلة من بيانات التدريب الأساسية، وتوليد عينات بيانات جديدة ومتشابهة لإعادة توازنها.
في عام 2021، أظهر المؤسسون المشاركون إمكانية استخدام نهج مماثل لمساعدة شركات الأدوية على استخدام نماذج الذكاء الاصطناعي للتنبؤ بخصائص الأدوية المرشحة. وأسسوا شركة Themis AI في وقت لاحق من ذلك العام.
تؤكد روس "قد يوفر توجيه اكتشاف الأدوية الكثير من المال. كانت هذه هي حالة الاستخدام التي جعلتنا ندرك مدى قوة هذه الأداة".
تعمل Themis AI اليوم مع شركات في مجموعة متنوعة من الصناعات، والعديد من هذه الشركات تبني نماذج لغوية ضخمة. باستخدام Capsa، تتمكن هذه النماذج من تحديد مستوى عدم اليقين الخاص بها لكل ناتج.
يعتقد فريق "ثيميس" للذكاء الاصطناعي أن الشركة في وضع جيد لتحسين أحدث تقنيات الذكاء الاصطناعي المتطورة باستمرار. أخبار ذات صلة
المصدر: صحيفة الاتحاد
كلمات دلالية: الذكاء الاصطناعي نماذج الذکاء الاصطناعی عدم الیقین فی
إقرأ أيضاً:
كيف استخدمت السعودية الذكاء الاصطناعي في إدارة موسم الحج؟
قُدّمت تقنيات الذكاء الاصطناعي هذا العام كعنصر رئيسي في إدارة موسم الحج في السعودية، لا سيما في مراقبة حركة الحجاج.
وقالت وكالة "فرانس برس"، إن المسؤولين السعوديين وظفوا تقنيات الذكاء الاصطناع لمراقبة حركة الحجاج على مدار الساعة، باستخدام بيانات ضخمة وصور حية من آلاف الكاميرات المنتشرة في مكة والمشاعر المقدسة.
وتقوم أكثر من 15 ألف كاميرا بمراقبة حية للحشود، فيما تعمل برمجيات ذكية على تحليل المشاهد المرصودة، للتنبؤ بنقاط الازدحام ورصد أي خلل في حركة السير. وتشمل هذه المنظومة أيضًا تتبّع أكثر من 20 ألف حافلة تنقل الحجاج بين المواقع المقدسة.
ويُعد هذا النظام جزءًا من منظومة تقنية شاملة تعتمدها السعودية لإدارة واحد من أكبر التجمعات البشرية في العالم، حيث استقبلت مكة نحو 1.4 مليون حاج هذا الأسبوع من مختلف الدول.
وأوضح محمد نذير، المدير التنفيذي للمركز العام للنقل في الهيئة الملكية لمدينة مكة، أن "غرفة التحكم المروري" تستخدم كاميرات متخصصة مدعومة بطبقات من الذكاء الاصطناعي لتحليل الحركة، تحديد المناطق المزدحمة، والتنبؤ بأنماط المرور. وتعمل الغرفة على مدار الساعة، وتستعين بشاشات وخرائط وأنظمة رصد متقدمة.
وأضاف نذير أن الهدف من هذه الإجراءات هو تقليل الحوادث، خاصة وأن الحجاج يتنقلون في الغالب سيرًا على الأقدام، بالإضافة إلى تخفيف المشقة الناتجة عن التنقل لمسافات طويلة في ظل درجات حرارة مرتفعة. وذكر أن نحو 17 ألف حافلة تتحرك في وقت واحد خلال ذروة الحج.
من جانبه، قال محمد القرني، مدير عام الحج والعمرة في المركز ذاته، إن غرفة العمليات تُعد "العين الرقيبة" على كافة الخطط التشغيلية، مشيرًا إلى أن الذكاء الاصطناعي يمكّن من تتبّع الأعداد ومراقبة الطرق والمسارات، إلى جانب استشعار الحالات الطارئة قبل وقوعها.
وأضاف أن النظام يسمح برصد الطاقة الاستيعابية للمواقع المقدسة، مما يُمكّن الجهات المعنية من توجيه الحشود عند الضرورة. وأشار إلى أنه خلال شهر رمضان الماضي، ساعدت هذه التقنية في وقف دخول المصلين عند بلوغ المسجد الحرام طاقته القصوى.
ولا يقتصر استخدام التكنولوجيا المتقدمة على الجوانب التنظيمية فقط، بل يشمل أيضًا الرقابة الأمنية.
فبعد وفاة 1301 حاج في العام الماضي – معظمهم دون تصاريح رسمية – شددت السلطات هذا العام على تطبيق القوانين، خاصة مع التوقعات بارتفاع درجات الحرارة إلى ما فوق 40 درجة مئوية.
وأوضحت السلطات أن 83% من الوفيات المسجّلة العام الماضي كانت لأشخاص لا يحملون تصاريح حج. وأكّد وزير الحج، توفيق الربيعة، في تصريحات سابقة أن الأجهزة المختصة تستخدم مستشعرات لرصد حركة الحجاج، مما يتيح التدخل السريع عند وجود مخاطر.
كما أُعلن عن استخدام طائرات مسيّرة لرصد مداخل مكة، والكشف عن الحجاج غير النظاميين. وقال الفريق محمد بن عبدالله البسامي، مدير الأمن العام ورئيس اللجنة الأمنية للحج، إن "التقنية أصبحت أداة يومية"، مشيرًا إلى أن الذكاء الاصطناعي، والطائرات المسيّرة، والكاميرات الحرارية أسهمت في ضبط المخالفين عبر مركز عمليات متقدّم.
وفي مقاطع نشرتها القوات الخاصة لأمن الطرق، تم توثيق استخدام هذه التقنيات الحديثة، بما في ذلك الكاميرات الذكية والحرارية، لمراقبة المحيط الخارجي لمكة والمشاعر.
???? باستخدام طائرة "الدرون" .. قوات أمن الحج تضبط (38) وافدًا من حاملي تأشيرات الزيارة لمخالفتهم أنظمة وتعليمات الحج.#لا_حج_بلا_تصريح pic.twitter.com/o8WVJnpo7m — أمن الطرق (@SA_HWY_SECURITY) June 4, 2025
وتُوزع تصاريح الحج وفق نظام حصص للدول، وتُمنح للأفراد غالبًا عبر قرعة. إلا أن ارتفاع تكاليف الحج النظامي يدفع البعض إلى اللجوء إلى طرق غير نظامية منخفضة التكلفة، رغم ما تنطوي عليه من مخاطر.
يسرا ترفع القبعة لـ 7 Dogs: "ملحمة سينمائية تفتح أبواب العالمية للسينما العربية"