ذكاء اصطناعي بلا تركيز.. روبوتات المحادثة تفتقد الدقة عند الإيجاز
تاريخ النشر: 9th, May 2025 GMT
كشفت دراسة جديدة أجرتها شركة Giskard الفرنسية، المتخصصة في اختبار أنظمة الذكاء الاصطناعي، أن طلب إجابات قصيرة من روبوتات المحادثة مثل ChatGPT قد يؤدي إلى زيادة احتمالات الهلوسة أي تقديم معلومات غير صحيحة أو مختلقة.
وذكرت الشركة في منشور عبر مدونتها، أن الإيجاز في الإجابة، خاصة عند التعامل مع مواضيع غامضة أو أسئلة مبنية على افتراضات خاطئة، قد يقلل من دقة النموذج، وفقا لـ"techcrunch".
أكد الباحثون أن تغييرا بسيطا في تعليمات النظام، مثل “كن موجزا”، قد يكون له تأثير كبير على ميل النموذج لتوليد معلومات غير دقيقة.
وقالت الدراسة: "تشير بياناتنا إلى أن التعليمات المباشرة للنظام تؤثر بشكل كبير على ميل النموذج للهلوسة، هذا الاكتشاف له تبعات مهمة عند نشر النماذج في التطبيقات الفعلية، حيث يفضل الإيجاز غالبا لتقليل استهلاك البيانات، وتحسين سرعة الاستجابة، وخفض التكاليف".
تكمن المشكلة بحسب Giskard، في أن النماذج تحتاج إلى "مساحة نصية" كافية لتفنيد الافتراضات الخاطئة أو التوضيح عند وجود معلومات مضللة، وهو ما لا يتوفر عند إجبارها على تقديم إجابات قصيرة، وبالتالي، تميل النماذج إلى اختيار الإيجاز على حساب الدقة.
وتطرقت الدراسة أيضا إلى أن النماذج تكون أقل ميلا لتفنيد الادعاءات المثيرة للجدل عندما تطرح بثقة من قبل المستخدم، كما أن النماذج التي يفضلها المستخدمون ليست دائما الأكثر صدقا.
وأشار الباحثون إلى وجود تناقض متزايد بين تحسين تجربة المستخدم والحفاظ على الدقة المعلوماتية، خصوصا عندما تتضمن استفسارات المستخدمين مغالطات أو معلومات خاطئة.
وتشمل النماذج المتأثرة بهذه الظاهرة: GPT-4o من OpenAI المستخدم حاليا في ChatGPT، إلى جانب نماذج أخرى مثل Mistral Large وClaude 3.7 Sonnet من شركة Anthropic، والتي أظهرت جميعها انخفاضا في الموثوقية عند مطالبتها بإجابات موجزة.
المصدر: صدى البلد
كلمات دلالية: الذكاء الاصطناعي هلوسة معلومات مضللة
إقرأ أيضاً:
موقع إيطالي: أميركا توافق على بيع برنامج تجسس بحري للهند
سلّط موقع "شيناري إيكونومتشي" الإيطالي الضوء على موافقة الولايات المتحدة على بيع نظام مراقبة بحري متطور للهند في صفقة وُصفت بأنها مؤشر على "مناخ جديد" في العلاقات بين البلدين.
وقال الموقع في تقرير أعده الكاتب فابيو لوغانو، إن وزارة الخارجية الأميركية وافقت على عملية بيع برنامج "سي فيجن" للمراقبة البحرية إلى الهند بقيمة تقديرية تبلغ 131 مليون دولار.
اقرأ أيضا list of 2 itemslist 1 of 2فايننشال تايمز: صمت الغرب عن غزة مخزlist 2 of 2إعلام إسرائيلي: العملية العسكرية الواسعة بغزة مصيرها مثل سابقاتهاend of listوأضاف أن نيودلهي طلبت شراء البرنامج، بما فيه التحسينات البرمجية المطلوبة، إضافة إلى الدعم الفني لتدريب الموظفين ميدانيا، والدعم عن بُعد للبرنامج والتحليلات، وحق الاطلاع على الوثائق الرسمية للبرنامج، وعناصر أخرى متعلقة باللوجستيات والدعم.
وأشار الكاتب إلى أن وكالة التعاون الأمني الدفاعي الأميركية قالت، إن هذا البيع سيعزز قدرة الهند على مواجهة التهديدات الحالية والمستقبلية بتقوية وعيها في المجال البحري، وقدراتها التحليلية، وموقعها الإستراتيجي.
وذكر الكاتب، أن شركة "هوك آي 360″، ومقرها ولاية فرجينيا، هي المقاول الرئيسي في عملية البيع المحتملة.
ما برنامج "سي فيجن"؟
أكد التقرير أن برنامج "سي فيجن" طورته البحرية الأميركية ويُستخدم في أكثر من 30 دولة، وهو أداة قائمة على شبكة الويب تتيح للمستخدمين عرض ومشاركة مجموعة واسعة من المعلومات البحرية المتعلقة بحركة السفن والملاحين، وإدارة هذه المعلومات، ويوفّر تحليلات تعتمد على قواعد يحددها المستخدم، ويقيّم الأحداث أو الأنشطة البحرية وينبه المستخدم بشأنها.
إعلانتمكّن هذه التقنية المستخدم من مراقبة وتتبع عشرات الآلاف من السفن في العالم، والحصول على معلومات مفصّلة عن كل سفينة على حدة. وعمليا، يُعد البرنامج متعقّبا عالميا لحركة الملاحة البحرية، مع ميزة فريدة وهي أن كل مستخدم يمكنه اختيار ما يريد تتبّعه وتحليله بنفسه.
كما أشار الكاتب إلى أن البرنامج يجمع بيانات من مصادر متعددة، مثل الأقمار الصناعية، والرادارات الساحلية، وأنظمة التعريف الآلي، والمستشعرات الكهرو-بصرية.
ومن المنتظر أن يتيح البرنامج للبحرية الهندية مسح الامتداد الشاسع للمحيط الهندي بحثا عن السفن الحربية الصينية وغيرها من التهديدات المحتملة.
توازن جديدوأوضح الكاتب أن الموافقة على بيع هذا البرنامج يُعتبر إشارة إلى تحسّن العلاقات بين الولايات المتحدة والهند رغم مشكلة الرسوم الجمركية التي بدأت الهند فعليا بتجاوزها بخفض التعريفات المرتفعة جدا على الواردات.
وخلص الكاتب إلى أن استعداد الولايات المتحدة لتسليم هذه التكنولوجيا للهند يُعدّ مؤشرا على تشكّل ما وصفه بتوازن دولي جديد.
انطلاق معرض “صنع في مصر” بطرابلس يوليو المقبل