كلما اختصر.. اختلق! الوجه الخفي للذكاء الاصطناعي
تاريخ النشر: 13th, May 2025 GMT
كشفت دراسة حديثة أجرتها شركة Giskard الفرنسية المتخصصة في اختبار أنظمة الذكاء الاصطناعي، أن طلب الإيجاز من روبوتات المحادثة مثل ChatGPT قد يزيد من ميلها إلى "الهلوسة" أي اختلاق معلومات غير دقيقة أو غير حقيقية.
تفاصيل الدراسة
ووفقاً لموقع "تك كرانش" نشر الباحثون نتائجهم في تدوينة تفصيلية، أشاروا فيها إلى أن التوجيهات التي تطلب إجابات قصيرة، خاصة على أسئلة غامضة أو مبنية على معلومات خاطئة، تؤدي إلى انخفاض ملحوظ في دقة المحتوى الذي تقدمه النماذج.
وقال الباحثون: "تُظهر بياناتنا أن تغييرات بسيطة في التوجيهات تؤثر بشكل كبير على ميل النموذج إلى الهلوسة".
وهو ما يثير القلق، خاصة أن كثيرًا من التطبيقات تعتمد على الإجابات الموجزة بهدف تقليل استخدام البيانات، وتسريع الاستجابة، وتقليص التكاليف.
اقرأ ايضاً.. الذكاء الاصطناعي يزداد عبقرية.. لكنه يُتقن الكذب
الهلوسة ليست مشكلة جديدة في الذكاء الاصطناعي، حتى النماذج الأحدث مثل GPT-4o وClaude 3.7 Sonnet تعاني منها بدرجات متفاوتة. لكن المفاجئ في الدراسة كان اكتشاف أن مجرد طلب إيجاز في الإجابة يمكن أن يزيد من احتمالية وقوع هذه الأخطاء.
ويرجّح الباحثون أن السبب يكمن في أن الإجابات القصيرة لا تتيح للنموذج "المجال" الكافي لتفنيد المغالطات أو شرح التعقيدات. فيكون أمام خيارين: الإيجاز أو الدقة، وغالبًا ما يختار الأول على حساب الثاني.
اقرأ أيضاً.. الذكاء الاصطناعي يتقن الخداع!
عبارات بريئة.. لكنها تخدع النموذج
أظهرت الدراسة أن النماذج الشهيرة مثل GPT-4o وMistral Large وClaude Sonnet تصبح أقل دقة عندما تُطلب منها إجابات مقتضبة على أسئلة مشوشة .
فبدلًا من الإشارة إلى أن السؤال يحتوي على فرضية خاطئة، تميل النماذج إلى تقديم إجابة مختصرة تكميلية للخطأ، مما يعزز التضليل بدلاً من تصحيحه.
وحذرت الدراسة أيضًا من أن بعض النماذج تميل إلى تفادي التصحيح عندما تُطرح المعلومات المغلوطة بطريقة واثقة، في محاولة لمجاراة توقّعات المستخدم، حتى وإن كانت خاطئة.
تُبرز الدراسة مفارقة مؤسفة تتمثل في أن تحسين تجربة المستخدم من خلال الإجابات المختصرة قد يأتي على حساب دقة الحقيقة. لذلك، يوصي الباحثون بضرورة توخي الحذر عند تصميم الأوامر والتعليمات الموجهة للذكاء الاصطناعي، مع التأكيد على أهمية تحقيق توازن بين سرعة الإجابة وموثوقيتها.
إسلام العبادي(أبوظبي)
المصدر: صحيفة الاتحاد
كلمات دلالية: تشات جي بي تي الذكاء الاصطناعي الذکاء الاصطناعی
إقرأ أيضاً:
في ختام صحة إفريقيا.. دعم الذكاء الاصطناعي وتوسيع الإنتاج المحلي
وجّه الدكتور كمال عبيد، المدير التنفيذي لمؤتمر ومعرض "صحة أفريقيا"، الشكر إلى فخامة الرئيس عبد الفتاح السيسي، رئيس جمهورية مصر العربية، على رعايته الكريمة والدائمة لهذا الحدث القاري الهام، مؤكدًا أن هذه الرعاية كان لها الأثر الأكبر في نجاحه واستمراره بهذا الزخم والتأثير.
وشدد عبيد على أن “رعاية رئيس الجمهورية ليست فقط دعماً للمؤتمر، بل رسالة واضحة تعكس إيمان القيادة السياسية في مصر بأهمية التكامل الصحي في أفريقيا، وبأن الصحة حق أساسي لشعوب القارة لا يحتمل التأجيل.”
كما أعرب عن خالص تقديره لوزارة الصحة والسكان، والهيئة العامة للرعاية الصحية، وهيئة الدواء المصرية، والهيئة العامة للاعتماد والرقابة الصحية، مشيدًا بجهودهم الكبيرة ومساهماتهم الجوهرية في إنجاح هذا الحدث، ودورهم المحوري في ترسيخ مكانة مصر كدولة رائدة في القطاع الصحي على مستوى القارة.
محطة فارقة في مسيرة التكامل الصحي في القارةوأكد عبيد أن النسخة الرابعة من المعرض والمؤتمر الطبي الإفريقي لم تكن مجرد فعالية دولية كبرى، بل محطة فارقة في مسيرة التكامل الصحي في القارة. ولفت إلى أن نجاح الحدث لم يتوقف عند حجم المشاركة أو دقة التنظيم، بل تجلى في المحتوى العميق والنقاشات الجادة التي أسفرت عن توصيات قابلة للتنفيذ، تعكس التزامًا حقيقيًا من جميع الأطراف بإحداث نقلة نوعية في قطاع الرعاية الصحية الإفريقي.
وأوضح أن الجلسة الختامية كانت بمثابة تتويج لحوار بنّاء استمر على مدار ثلاثة أيام، وخرجت بتوافق واضح على مجموعة من الأولويات، أبرزها دعم الذكاء الاصطناعي والتحول الرقمي، وتوحيد سياسات التعليم الطبي، وتوسيع الإنتاج المحلي، بالإضافة إلى التصدي لتأثيرات التغيرات المناخية على صحة شعوب القارة.
وأشار عبيد إلى أن هذه التوصيات لم تأتِ من فراغ، بل جاءت نتيجة تجارب واقعية وخبرات عملية تتقدمها التجربة المصرية الرائدة في مجالات محورية مثل القضاء على فيروس سي، وتوسيع نطاق خدمات الرعاية الأساسية.
واختتم قائلًا: “نحن نعتبر هذه التوصيات بمثابة خارطة عمل فعالة، وملتزمون بمتابعة تنفيذها بالتنسيق مع الهيئات الأفريقية والدولية، وصولاً إلى تحقيق الهدف الأسمى، وهو بناء أنظمة صحية قوية، مرنة، وعادلة تخدم المواطن الإفريقي في كل مكان. مصر كانت وستظل قلب أفريقيا النابض، ومنصة للحوار والعمل المشترك نحو مستقبل صحي أكثر إشراقًا للقارة بأسرها.”
هجوم روسي عنيف بمسيرات يقطع الكهرباء عن خيرسون