ذكاء اصطناعي بلا تركيز.. روبوتات المحادثة تفتقد الدقة عند الإيجاز
تاريخ النشر: 9th, May 2025 GMT
كشفت دراسة جديدة أجرتها شركة Giskard الفرنسية، المتخصصة في اختبار أنظمة الذكاء الاصطناعي، أن طلب إجابات قصيرة من روبوتات المحادثة مثل ChatGPT قد يؤدي إلى زيادة احتمالات الهلوسة أي تقديم معلومات غير صحيحة أو مختلقة.
وذكرت الشركة في منشور عبر مدونتها، أن الإيجاز في الإجابة، خاصة عند التعامل مع مواضيع غامضة أو أسئلة مبنية على افتراضات خاطئة، قد يقلل من دقة النموذج، وفقا لـ"techcrunch".
أكد الباحثون أن تغييرا بسيطا في تعليمات النظام، مثل “كن موجزا”، قد يكون له تأثير كبير على ميل النموذج لتوليد معلومات غير دقيقة.
وقالت الدراسة: "تشير بياناتنا إلى أن التعليمات المباشرة للنظام تؤثر بشكل كبير على ميل النموذج للهلوسة، هذا الاكتشاف له تبعات مهمة عند نشر النماذج في التطبيقات الفعلية، حيث يفضل الإيجاز غالبا لتقليل استهلاك البيانات، وتحسين سرعة الاستجابة، وخفض التكاليف".
تكمن المشكلة بحسب Giskard، في أن النماذج تحتاج إلى "مساحة نصية" كافية لتفنيد الافتراضات الخاطئة أو التوضيح عند وجود معلومات مضللة، وهو ما لا يتوفر عند إجبارها على تقديم إجابات قصيرة، وبالتالي، تميل النماذج إلى اختيار الإيجاز على حساب الدقة.
وتطرقت الدراسة أيضا إلى أن النماذج تكون أقل ميلا لتفنيد الادعاءات المثيرة للجدل عندما تطرح بثقة من قبل المستخدم، كما أن النماذج التي يفضلها المستخدمون ليست دائما الأكثر صدقا.
وأشار الباحثون إلى وجود تناقض متزايد بين تحسين تجربة المستخدم والحفاظ على الدقة المعلوماتية، خصوصا عندما تتضمن استفسارات المستخدمين مغالطات أو معلومات خاطئة.
وتشمل النماذج المتأثرة بهذه الظاهرة: GPT-4o من OpenAI المستخدم حاليا في ChatGPT، إلى جانب نماذج أخرى مثل Mistral Large وClaude 3.7 Sonnet من شركة Anthropic، والتي أظهرت جميعها انخفاضا في الموثوقية عند مطالبتها بإجابات موجزة.
المصدر: صدى البلد
كلمات دلالية: الذكاء الاصطناعي هلوسة معلومات مضللة
إقرأ أيضاً:
خلال مكالمة هاتفية.. ترامب يصرخ بوجه نتنياهو لهذا السبب
كشفت تقرير لشبكة "إن بي سي" الأمريكية أن الرئيس دونالد ترامب، صرخ على رئيس الحكومة الإسرائيلية، بنيامين نتنياهو، خلال محادثة هاتفية بينهما، الأسبوع الماضي، وقال له إن المجاعة في غزة ليست مزيفة وأنه شاهد إثباتات على ذلك.
وبحسب تقرير للشبكة، فإن "المحادثة الهاتفية جرت غداة تصريح لنتنياهو وادعى فيه أنه "لا توجد سياسة تجويع في غزة، ولا توجد مجاعة في غزة". لكن ترامب قال لنتنياهو إنه شاهد صورا لأطفال في غزة "ويبدون جائعين جدا" وشدد على أنه "توجد مجاعة حقيقية" وأنه "لا يمكن تزييف هذا الأمر".
وفي وقت لاحق، طلب نتنياهو التحدث هاتفيا مع ترامب، وادعى أن المجاعة في غزة ليست حقيقية وأن حماس تزيف المجاعة.
وقالت المصادر إن ترامب قاطع أقوال نتنياهو وبدأ يصرخ قائلا إنه لا يريد أن يسمع أن المجاعة مزيفة، وشدد أن مساعديه قدموا له إثباتات على أن الأطفال في غزة يتضورون جوعا.
ووصف أحد المصادر المحادثة بين ترامب ونتنياهو بأنها كانت "مباشرة، وباتجاه واحد بالأساس، حول وضع المساعدات الإنسانية" وترامب "هو الذي تحدث بالأساس".
وأشار المصدر، إلى أن "الولايات المتحدة لا تشعر أن الوضع خطير، وإنما أنها تتحمل مسؤولية بسبب نشاط مؤسسة غزة الإنسانية".
وأشار تقرير "إن بي سي" إلى أن هذه المحادثة بين ترامب ونتنياهو أدت إلى زيارة المبعوث الأمريكي، ستيف ويتكوف، إلى إسرائيل ودخوله إلى قطاع غزة وزيارة أحد مراكز "مؤسسة غزة الإنسانية" الأربعة لتوزيع المواد الغذائية.
ونفى مكتب نتنياهو لاحقا أن المحادثة تخللها صراخ من جانب ترامب، واصفا ذلك بأنها "أنباء كاذبة بالمطلق".
والأسبوع الماضي، قال الرئيس الأمريكي دونالد ترامب إن "على إسرائيل أن تطعم الناس في غزة"، مشددا على أن "بلاده لا تريد أن يتضور الناس في قطاع غزة جوعا وإن أشياء سيئة تحدث هناك في الوقت الحالي".
وأضاف ترامب، أن "بلاده تريد أن يحصل الناس في غزة على الطعام"، مؤكدا أن الولايات المتحدة هي الدولة الوحيدة التي تفعل ذلك حقا وتوفر المال لهذا الغرض.
وقال ترامب إن ما يحصل في قطاع غزة مفجع وعار وكارثي.
وأوضح ترامب "قدمنا 60 مليون دولار قبل أسبوعين للمساعدات في غزة وأردت فقط أن يحصل الناس هناك على الطعام، ونحن نساعد ماليا في هذا الوضع".
وتابع الرئيس الأمريكي، "لا أرى نتائج في غزة للمساعدات التي قدمناها".
تردد قناة ناشيونال جيوغرافيك بـ نايل سات 2025.. استمتع ببرامج عالم الحيوان والطبيعة