كلما اختصر.. اختلق! الوجه الخفي للذكاء الاصطناعي
تاريخ النشر: 13th, May 2025 GMT
كشفت دراسة حديثة أجرتها شركة Giskard الفرنسية المتخصصة في اختبار أنظمة الذكاء الاصطناعي، أن طلب الإيجاز من روبوتات المحادثة مثل ChatGPT قد يزيد من ميلها إلى "الهلوسة" أي اختلاق معلومات غير دقيقة أو غير حقيقية.
تفاصيل الدراسة
ووفقاً لموقع "تك كرانش" نشر الباحثون نتائجهم في تدوينة تفصيلية، أشاروا فيها إلى أن التوجيهات التي تطلب إجابات قصيرة، خاصة على أسئلة غامضة أو مبنية على معلومات خاطئة، تؤدي إلى انخفاض ملحوظ في دقة المحتوى الذي تقدمه النماذج.
وقال الباحثون: "تُظهر بياناتنا أن تغييرات بسيطة في التوجيهات تؤثر بشكل كبير على ميل النموذج إلى الهلوسة".
وهو ما يثير القلق، خاصة أن كثيرًا من التطبيقات تعتمد على الإجابات الموجزة بهدف تقليل استخدام البيانات، وتسريع الاستجابة، وتقليص التكاليف.
اقرأ ايضاً.. الذكاء الاصطناعي يزداد عبقرية.. لكنه يُتقن الكذب
الهلوسة ليست مشكلة جديدة في الذكاء الاصطناعي، حتى النماذج الأحدث مثل GPT-4o وClaude 3.7 Sonnet تعاني منها بدرجات متفاوتة. لكن المفاجئ في الدراسة كان اكتشاف أن مجرد طلب إيجاز في الإجابة يمكن أن يزيد من احتمالية وقوع هذه الأخطاء.
ويرجّح الباحثون أن السبب يكمن في أن الإجابات القصيرة لا تتيح للنموذج "المجال" الكافي لتفنيد المغالطات أو شرح التعقيدات. فيكون أمام خيارين: الإيجاز أو الدقة، وغالبًا ما يختار الأول على حساب الثاني.
اقرأ أيضاً.. الذكاء الاصطناعي يتقن الخداع!
عبارات بريئة.. لكنها تخدع النموذج
أظهرت الدراسة أن النماذج الشهيرة مثل GPT-4o وMistral Large وClaude Sonnet تصبح أقل دقة عندما تُطلب منها إجابات مقتضبة على أسئلة مشوشة .
فبدلًا من الإشارة إلى أن السؤال يحتوي على فرضية خاطئة، تميل النماذج إلى تقديم إجابة مختصرة تكميلية للخطأ، مما يعزز التضليل بدلاً من تصحيحه.
وحذرت الدراسة أيضًا من أن بعض النماذج تميل إلى تفادي التصحيح عندما تُطرح المعلومات المغلوطة بطريقة واثقة، في محاولة لمجاراة توقّعات المستخدم، حتى وإن كانت خاطئة.
تُبرز الدراسة مفارقة مؤسفة تتمثل في أن تحسين تجربة المستخدم من خلال الإجابات المختصرة قد يأتي على حساب دقة الحقيقة. لذلك، يوصي الباحثون بضرورة توخي الحذر عند تصميم الأوامر والتعليمات الموجهة للذكاء الاصطناعي، مع التأكيد على أهمية تحقيق توازن بين سرعة الإجابة وموثوقيتها.
إسلام العبادي(أبوظبي)
المصدر: صحيفة الاتحاد
كلمات دلالية: تشات جي بي تي الذكاء الاصطناعي الذکاء الاصطناعی
إقرأ أيضاً:
“بينها الهند” .. دراسة تكشف عن عدد ساعات النوم الصحية لمواطني 20 دولة
كشفت دراسة جديدة، أن مقدار النوم المثالي والصحي يختلف باختلاف البلد والثقافة، وليس هناك معيار عالمي ثابت.
وحلل الباحثون من جامعة كولومبيا البريطانية، بيانات نحو 5000 شخص من 20 دولة، وتبين أن احتياجات النوم تتباين بشكل واضح من مكان إلى آخر، ما يتناقض مع التوصية الشائعة بالحصول على 8 ساعات من النوم.
وقال الدكتور ستيفن هاين، أستاذ علم النفس ومؤلف الدراسة المنشورة في مجلة “Proceedings of the National Academy of Sciences”: “توصيات النوم يجب أن تأخذ السياق الثقافي في الاعتبار، فليست هناك كمية نوم واحدة تناسب الجميع”.
وأظهرت الدراسة أن متوسط النوم في اليابان كان 6 ساعات و18 دقيقة، بينما بلغ 7 ساعات و52 دقيقة في فرنسا (أعلى معدل)، و7 ساعات و27 دقيقة في كندا، و7 ساعات و17 دقيقة في الصين، و7 ساعات و14 دقيقة في الهند.
ولم يجد الباحثون علاقة واضحة بين قصر النوم وتراجع الصحة في الدول التي ينام فيها السكان فترات أقصر.
وذكرت الدكتورة كريستين أو، من جامعة فيكتوريا: “الأشخاص الذين ينامون وفق المعايير الثقافية لبلدانهم يتمتعون بصحة عامة أفضل، حتى لو كانت فترات النوم قصيرة”.
وأضافت أن “المثالي هو ما يتماشى مع ما يعتبر طبيعيا في ثقافة الفرد”.
كما لاحظت الدراسة أن الأشخاص في جميع البلدان ينامون في المتوسط ساعة أقل من المعدل الذي تعتبره ثقافتهم مثالياً.
وأوصى الباحثون في الدراسة بتكييف الإرشادات الصحية العامة لتناسب السياقات الثقافية المختلفة، بهدف تحقيق نتائج صحية أفضل عالميا.
وكالة سبوتنيك
إنضم لقناة النيلين على واتساب
مراسل تلفزيون فلسطين يتعرض لحادث دهس خلال بث مباشر (شاهد)