كلما اختصر.. اختلق! الوجه الخفي للذكاء الاصطناعي
تاريخ النشر: 13th, May 2025 GMT
كشفت دراسة حديثة أجرتها شركة Giskard الفرنسية المتخصصة في اختبار أنظمة الذكاء الاصطناعي، أن طلب الإيجاز من روبوتات المحادثة مثل ChatGPT قد يزيد من ميلها إلى "الهلوسة" أي اختلاق معلومات غير دقيقة أو غير حقيقية.
تفاصيل الدراسة
ووفقاً لموقع "تك كرانش" نشر الباحثون نتائجهم في تدوينة تفصيلية، أشاروا فيها إلى أن التوجيهات التي تطلب إجابات قصيرة، خاصة على أسئلة غامضة أو مبنية على معلومات خاطئة، تؤدي إلى انخفاض ملحوظ في دقة المحتوى الذي تقدمه النماذج.
وقال الباحثون: "تُظهر بياناتنا أن تغييرات بسيطة في التوجيهات تؤثر بشكل كبير على ميل النموذج إلى الهلوسة".
وهو ما يثير القلق، خاصة أن كثيرًا من التطبيقات تعتمد على الإجابات الموجزة بهدف تقليل استخدام البيانات، وتسريع الاستجابة، وتقليص التكاليف.
اقرأ ايضاً.. الذكاء الاصطناعي يزداد عبقرية.. لكنه يُتقن الكذب
الهلوسة ليست مشكلة جديدة في الذكاء الاصطناعي، حتى النماذج الأحدث مثل GPT-4o وClaude 3.7 Sonnet تعاني منها بدرجات متفاوتة. لكن المفاجئ في الدراسة كان اكتشاف أن مجرد طلب إيجاز في الإجابة يمكن أن يزيد من احتمالية وقوع هذه الأخطاء.
ويرجّح الباحثون أن السبب يكمن في أن الإجابات القصيرة لا تتيح للنموذج "المجال" الكافي لتفنيد المغالطات أو شرح التعقيدات. فيكون أمام خيارين: الإيجاز أو الدقة، وغالبًا ما يختار الأول على حساب الثاني.
اقرأ أيضاً.. الذكاء الاصطناعي يتقن الخداع!
عبارات بريئة.. لكنها تخدع النموذج
أظهرت الدراسة أن النماذج الشهيرة مثل GPT-4o وMistral Large وClaude Sonnet تصبح أقل دقة عندما تُطلب منها إجابات مقتضبة على أسئلة مشوشة .
فبدلًا من الإشارة إلى أن السؤال يحتوي على فرضية خاطئة، تميل النماذج إلى تقديم إجابة مختصرة تكميلية للخطأ، مما يعزز التضليل بدلاً من تصحيحه.
وحذرت الدراسة أيضًا من أن بعض النماذج تميل إلى تفادي التصحيح عندما تُطرح المعلومات المغلوطة بطريقة واثقة، في محاولة لمجاراة توقّعات المستخدم، حتى وإن كانت خاطئة.
تُبرز الدراسة مفارقة مؤسفة تتمثل في أن تحسين تجربة المستخدم من خلال الإجابات المختصرة قد يأتي على حساب دقة الحقيقة. لذلك، يوصي الباحثون بضرورة توخي الحذر عند تصميم الأوامر والتعليمات الموجهة للذكاء الاصطناعي، مع التأكيد على أهمية تحقيق توازن بين سرعة الإجابة وموثوقيتها.
إسلام العبادي(أبوظبي)
المصدر: صحيفة الاتحاد
كلمات دلالية: تشات جي بي تي الذكاء الاصطناعي الذکاء الاصطناعی
إقرأ أيضاً:
يصاب بالتسمم باستشارة من «الذكاء الاصطناعي»
البلاد (وكالات)
نُقل ستيني إلى المستشفى في الولايات المتحدة بعد إصابته بتسمم ناجم عن تناول «بروميد الصوديوم»، وهي مادة كيميائية سامة، استبدل بها ملح الطعام (كلوريد الصوديوم) في نظامه الغذائي، استناداً إلى معلومات حصل عليها من روبوت الدردشة المدعوم بالذكاء الاصطناعي «تشات جي بي تي». الرجل بدأ باستخدام «بروميد الصوديوم» قبل ثلاثة أشهر من نقله إلى المستشفى، بعد أن قرأ عن الآثار السلبية للإفراط في تناول الملح، وسأل «تشات جي بي تي»عن بدائل ممكنة. وخلال فترة استخدامه للمادة، التي اشتراها عبر الإنترنت، بدأ يعاني أعراضاً عصبية ونفسية حادة؛ من بينها الهلوسة، وجنون العظمة، ومشكلات جلدية، إلى جانب العطش الشديد، ورفضه شرب الماء؛ بسبب أوهام بأن جاره يحاول تسميمه.
ورغم نفيه في البداية تناوله لأي مكملات أو أدوية، كشف لاحقاً عن اتّباعه لنظام غذائي صارم وتقطيره للماء في المنزل.
وأشار الفريق الطبي إلى أن الحالة تم علاجها من خلال السوائل وتصحيح اضطرابات الكهارل، قبل نقل المريض إلى وحدة الطب النفسي.
السودان.. عقبات أمام عودة الطلاب إلى المدارس في الخرطوم