نماذج OpenAI الجديدة للذكاء الاصطناعي تُخطئ و«تهلوس» عند التفكير والتحليل
تاريخ النشر: 20th, April 2025 GMT
رغم الضجة حول قوة نماذج الذكاء الاصطناعي الجديدة من OpenAI، وهما o3 و o4-mini، فإن تقارير فنية كشفت عن مفارقة غير متوقعة، حيث ثوبت أن هذه النماذج تهلوس أكثر من سابقتها ،أي أنها تقدم معلومات غير صحيحة أو ملفقة بمعدل أعلى من النماذج الأقدم مثل o1 و o3-mini.
ما هي "الهلوسة" في الذكاء الاصطناعي؟في سياق نماذج الذكاء الاصطناعي، يشير مصطلح "الهلوسة" إلى إنتاج معلومات غير دقيقة أو مختلقة ، مثل تقديم روابط غير موجودة، أو نسب أحداث لأشخاص لم تحدث، أو حتى الادعاء بتنفيذ عمليات لم تحدث أصلًا.
وبحسب اختبارات داخلية أجرتها OpenAI، فإن، نموذج o3 هلوس في 33% من الأسئلة في اختبار داخلي يسمى PersonQA، ضعف معدل الهلوسة في o1 و o3-mini.
أما نموذج o4-mini، فكانت النتائج أسوأ، بهلوسة في 48% من الأسئلة.
لا تعرف شركة OpenAI السبب الدقيق لهذه الزيادة في معدل الهلوسة،
ففي تقريرها الفني، أشارت إلى أن "هناك حاجة إلى مزيد من الأبحاث لفهم السبب وراء تفاقم الهلوسات عند توسيع نطاق النماذج المنطقية reasoning models".
ورغم أن o3 و o4-mini حققا أداءً ممتازًا في مهام الترميز والرياضيات، إلا أن زيادة عدد الادعاءات الكلية التي تنتجها النماذج أدى بدوره إلى ارتفاع عدد الادعاءات الخاطئة أيضًا، بحسب التقرير.
نتائج تحقيق خارجياختبارات مستقلة أجراها مختبر Transluce البحثي غير الربحي كشفت أن نموذج o3 لا يكتفي بتقديم معلومات خاطئة، بل يختلق إجراءات لم تحدث أصلاً.
في إحدى الحالات، ادعى o3 أنه قام بتشغيل كود على جهاز MacBook Pro ثم نقل الأرقام إلى جوابه، في حين أن النموذج لا يمتلك تلك الإمكانيات أصلاً.
أرجع Neil Chowdhury، الباحث في Transluce والموظف السابق في OpenAI، الظاهرة إلى أن طريقة التعلم بالتعزيز المستخدمة في نماذج o-series قد تضخم مشكلات كان يتم الحد منها في نماذج أخرى عبر تقنيات ما بعد التدريب.
تطبيقات عمليةرغم المشكلات، أشار خبراء مثل Kian Katanforoosh، أستاذ مساعد بجامعة ستانفورد ومدير شركة Workera الناشئة، إلى أن فريقه يستخدم o3 في سير عمل الترميز واعتبره متفوقًا على المنافسين.
لكنهم لاحظوا أن النموذج يهلوس روابط ويب مكسورة، حيث يقترح روابط تبدو واقعية ولكنها لا تعمل فعليًا.
تُعد إضافة ميزة البحث المباشر على الإنترنت إحدى الحلول المطروحة لتقليل الهلوسة، حيث سجل GPT-4o المزود بالبحث دقة بلغت 90% في اختبار SimpleQA، وفقًا لـ OpenAI.
لكن الاعتماد على بحث خارجي يعني أن المستخدم يجب أن يقبل بمشاركة محتوى الاستعلامات مع محركات بحث طرف ثالث، وهو ما قد يثير تحفظات تتعلق بالخصوصية.
رغم أن التركيز الحالي في صناعة الذكاء الاصطناعي يتحول نحو "نماذج التفكير والاستدلال" (reasoning models) باعتبارها أكثر كفاءة من النماذج التقليدية، فإنها تبدو أكثر عرضة للهلوسة.
وهذا ما يجعل مسألة تحسين دقة النماذج أكثر إلحاحًا من أي وقت مضى، خاصة في القطاعات الحساسة مثل القانون، الصحة، والإعلام، حيث قد تؤدي الهلوسة إلى عواقب كارثية.
المصدر: صدى البلد
كلمات دلالية: الذكاء الاصطناعي المزيد الذکاء الاصطناعی
إقرأ أيضاً:
عبيدات يكتب ( توظيف الذكاء الاصطناعي في قطاع النقل العام )
صراحة نيوز – بقلم : طارق عبيدات
يشهد قطاع النقل العام نقلة نوعية في الأردن وجدت ارتياحا من قبل غالبية المواطنين المستخدمين للنقل العام لكن ما زال هناك تحديات كبيرة تتمثل في الازدحام المروري الخانق والناتج عن الفوضى الحاصلة في القطاع والتي من أحد أهم أسباب هذه الفوضى انتشار التطبيقات غير المرخصة ، وهذا يقود إلى تدني مستوى الخدمة حيث أن غالبية العاملين مع التطبيقات غير المرخصة يعملون على سيارات ليست بالحديثة كما أنهم لا يخضعون للرقابة جراء العمل دون الحصول على التراخيص اللازمة.
ولغايات ضبط العمل وفي ظل الثورة الحاصلة في تكنولوجيا المعلومات، يبرز الذكاء الاصطناعي (AI) كحل استراتيجي لإحداث تحول جذري.
ولا يخفى على أحد أن الذكاء الاصطناعي يقدم إمكانيات هائلة لتحسين الكفاءة والسلامة وتجربة الركاب، حيث تشمل تطبيقات الذكاء الاصطناعي في النقل تحسين تخطيط المسارات، إدارة تدفق الحركة المرورية، تطوير أنظمة تذاكر ذكية، ومراقبة الأداء والصيانة التنبؤية للمركبات والبنية التحتية، مما يساهم في تحقيق نقل أكثر استدامة وكفاءة.
وعلى الرغم من البدء بمشاريع حيوية ومهمة في قطاع النقل العام والتي يعد أبرزها مشروع ربط المحافظات بالعاصمة، إلا أنه لا زالت مشكلة النقل في الأردن قائمة بسبب عدة عوامل رئيسية، منها تجزئة نظام النقل العام على المستويين التشغيلي والمؤسسي، مما يعيق التنسيق الشامل. كما أن تدني مستوى الخدمة يدفع الركاب للبحث عن بدائل، بينما تساهم أزمات السير الخانقة والفوضى المرورية في المدن الرئيسية في تفاقم الوضع. كما يشكل تزايد أنشطة التطبيقات غير المرخصة تحديًا كبيرًا، حيث تؤثر سلبًا على المنظومة المرخصة وتزيد من حالة عدم التنظيم، إلى جانب ضعف البنية التحتية ونقص المواقف ومراكز الانطلاق.
يمكن للذكاء الاصطناعي أن يلعب دورًا محوريًا في معالجة هذه التحديات في الأردن. فمن خلال تطوير منصة وطنية موحدة للنقل العام تعتمد على الذكاء الاصطناعي، يمكن تنظيم وتوحيد القطاع، ومكافحة التطبيقات غير المرخصة عبر تحليل أنماط الحركة وتحديد الأنشطة غير القانونية. كما يتيح الذكاء الاصطناعي تحسين تخطيط المسارات والجداول الزمنية بناءً على بيانات الطلب، وإدارة الازدحام المروري ديناميكيًا، وتحسين تجربة الركاب بتوفير معلومات دقيقة وخدمات مخصصة، بالإضافة إلى الصيانة التنبؤية للبنية التحتية والمركبات.
ولغايات التأكد من مدى فائدة توظيف الذكاء الاصطناعي يمكن متابعة الممارسات التي تبنتها العديد من المدن والدول حول العالم أفضل الممارسات في توظيف الذكاء الاصطناعي في النقل. ففي سنغافورة، تُستخدم أنظمة إدارة مرور ذكية لتعديل إشارات المرور بناءً على الكثافة المرورية، بينما في الإمارات العربية المتحدة، يساهم مشروع “غرين لايت” في تحليل البيانات المرورية لتحسين التدفق. وعلى صعيد آخر تستفيد موسكو من الذكاء الاصطناعي لتحسين كفاءة النقل العام وجداول الحافلات، وتستخدم شركات مثل جوجل مابس وويز الذكاء الاصطناعي لإدارة حركة المرور الذكية.
وعلى ضوء ما تم ذكره، يمثل توظيف الذكاء الاصطناعي في قطاع نقل الركاب فرصة ذهبية للأردن لتحقيق نقل عام أكثر كفاءة، أمانًا، وتنظيمًا.
يتطلب ذلك تبني استراتيجية وطنية شاملة تركز على تطوير إطار تشريعي وتنظيمي واضح، والاستثمار في البنية التحتية الرقمية، وبناء القدرات البشرية العاملة في قطاع النقل العام في مجال الذكاء الاصطناعي. كما أن الشراكة الفعالة بين القطاعين العام والخاص، وزيادة الوعي بأهمية هذه التقنيات، ستكون عوامل حاسمة لتحقيق قفزة نوعية في هذا القطاع الحيوي، مما يلبي تطلعات المواطنين ويساهم في التنمية الشاملة للمملكة.
مرحلة جديدة من الصراع السياسي المفتوح والحسم مؤجل