تعليم نماذج الذكاء الاصطناعي ما لا تعرفه
تاريخ النشر: 6th, June 2025 GMT
أسس فريق من باحثي معهد ماساتشوستس للتكنولوجيا (MIT)، Themis AI لقياس عدم اليقين في نماذج الذكاء الاصطناعي ومعالجة فجوات المعرفة.
تُقدم أنظمة الذكاء الاصطناعي، مثل ChatGPT، إجاباتٍ تبدو معقولة لأي سؤال قد يطرح عليها. لكنها لا تكشف دائمًا عن ثغراتٍ في معارفها أو جوانبَ عدم اليقين فيها.
وقد تُسفر هذه المشكلة عن عواقب وخيمة مع تزايد استخدام أنظمة الذكاء الاصطناعي في مجالاتٍ مثل تطوير الأدوية، وقيادة السيارات ذاتية القيادة.
والآن، تُساعد Themis AI في تحديد عدم اليقين في النماذج وتصحيح النتائج قبل أن تُسبب مشاكل أكبر. ويمكن لمنصة Capsa التابعة للشركة العمل مع أي نموذج تعلُّم آلي للكشف عن النتائج غير الموثوقة وتصحيحها في ثوانٍ. وتعمل المنصة عن طريق تعديل نماذج الذكاء الاصطناعي لتمكينها من اكتشاف الأنماط في معالجة البيانات التي تُشير إلى الغموض أو عدم الاكتمال أو التحيز.
تقول دانييلا روس، المؤسس المشارك لشركة Themis AI والأستاذة في معهد ماساتشوستس للتكنولوجيا، والتي تشغل أيضًا منصب مديرة مختبر علوم الحاسوب والذكاء الاصطناعي في معهد ماساتشوستس للتكنولوجيا "الفكرة هي أخذ نموذج، ودمجه في Capsa، وتحديد أوجه عدم اليقين وأنماط فشل النموذج، ثم تحسينه"، مضيفة "نحن متحمسون لتقديم حل يُحسّن النماذج ويضمن عملها بشكل صحيح".
أسست روس شركة Themis AI عام 2021 بالتعاون مع زميلي بحث سابقين في مختبرها. ومنذ ذلك الحين، ساعدوا شركات الاتصالات في تخطيط الشبكات وأتمتتها، وساعدوا شركات النفط والغاز على استخدام الذكاء الاصطناعي لفهم الصور الزلزالية، ونشروا أبحاثًا حول تطوير روبوتات دردشة أكثر موثوقية.
يقول ألكسندر أميني، أحد الرؤساء المشاركين "نريد تمكين الذكاء الاصطناعي في التطبيقات الأكثر أهمية في كل قطاع". ويضيف "رأينا جميعًا أمثلة على هلوسة الذكاء الاصطناعي أو ارتكابه للأخطاء. ومع اتساع نطاق استخدام الذكاء الاصطناعي، قد تؤدي هذه الأخطاء إلى عواقب وخيمة. يُمكّن ثيميس أي ذكاء اصطناعي من التنبؤ بأخطائه قبل وقوعها".
مساعدة النماذج على معرفة ما تجهله
يبحث مختبر روس في عدم اليقين في النماذج منذ سنوات. في عام 2018، حصلت على تمويل لدراسة موثوقية حل قيادة ذاتية قائم على التعلم الآلي. تقول روس "هذا سياق بالغ الأهمية للسلامة، حيث يُعد فهم موثوقية النموذج أمرًا بالغ الأهمية".
في عمل منفصل، طوّر روس وأميني وزملاؤهما خوارزمية يمكنها اكتشاف التحيز العنصري والجنسي في أنظمة التعرف على الوجه، وإعادة وزن بيانات تدريب النموذج تلقائيًا، مما يُظهر أنها أزالت التحيز. عملت الخوارزمية من خلال تحديد الأجزاء غير المُمثلة من بيانات التدريب الأساسية، وتوليد عينات بيانات جديدة ومتشابهة لإعادة توازنها.
في عام 2021، أظهر المؤسسون المشاركون إمكانية استخدام نهج مماثل لمساعدة شركات الأدوية على استخدام نماذج الذكاء الاصطناعي للتنبؤ بخصائص الأدوية المرشحة. وأسسوا شركة Themis AI في وقت لاحق من ذلك العام.
تؤكد روس "قد يوفر توجيه اكتشاف الأدوية الكثير من المال. كانت هذه هي حالة الاستخدام التي جعلتنا ندرك مدى قوة هذه الأداة".
تعمل Themis AI اليوم مع شركات في مجموعة متنوعة من الصناعات، والعديد من هذه الشركات تبني نماذج لغوية ضخمة. باستخدام Capsa، تتمكن هذه النماذج من تحديد مستوى عدم اليقين الخاص بها لكل ناتج.
يعتقد فريق "ثيميس" للذكاء الاصطناعي أن الشركة في وضع جيد لتحسين أحدث تقنيات الذكاء الاصطناعي المتطورة باستمرار. أخبار ذات صلة
المصدر: صحيفة الاتحاد
كلمات دلالية: الذكاء الاصطناعي نماذج الذکاء الاصطناعی عدم الیقین فی
إقرأ أيضاً:
ابتكار جهاز جديد يفرز النفايات باستخدام الذكاء الاصطناعي
نجحت الفتاة العربية بيسان قعدان في ابتكار جهاز ذكي يعتمد على تقنيات الذكاء الاصطناعي لفرز النفايات تلقائيًا، مما يسهم في رفع كفاءة عمليات إعادة التدوير وحماية البيئة. يأتي هذا الابتكار كخطوة مهمة في إدارة النفايات الصلبة، حيث يبسط عمليات الفرز ويوفر الوقت والجهد، مع دقة تصل إلى 90٪، ما يشجع الأفراد والمؤسسات على تبني ممارسات بيئية أكثر مسؤولية.
تم تصميم الجهاز ليُركّب بسهولة على سلال النفايات المنزلية أو المكتبية، حيث يقوم بمسح المخلفات وتصنيفها باستخدام كاميرا مدمجة وخوارزميات تعلم آلي. يعتمد على مكونات بسيطة مثل وحدة Raspberry Pi 4، ما يجعله اقتصاديًا وقابلًا للتطبيق على نطاق واسع.
جاءت فكرة الابتكار خلال تدريب بيسان في الشركة المصرية لإعادة تدوير المخلفات، حيث واجهت تحديات الفرز اليدوي وألهمها تطوير حل ذكي لهذه المشكلة. تقول بيسان: “التكنولوجيا يجب أن تكون في خدمة البيئة. هدفي هو تسهيل إعادة التدوير عبر جهاز عملي للاستخدام اليومي.”
يُتوقع أن يكون للجهاز تطبيقات واسعة في المنازل، المدارس، الشركات، والمرافق العامة، مع خطط لتطوير نسخة متقدمة تتضمن تطبيقًا ذكيًا يقدم تقارير دورية للمستخدمين، مما يعزز وعيهم البيئي ويساهم في بناء سلوكيات مستدامة.
لقاء جعجع – جنبلاط... تحالف انتخابي ع القطعة