تحذيرات علمية.. أدوات البحث بالذكاء الاصطناعي تختلق مصادر وروابط وهمية
تاريخ النشر: 18th, March 2025 GMT
كشفت دراسة جديدة عن مشكلة جوهرية في أدوات البحث بالذكاء الاصطناعي، حيث تبين أنها تقدم إجابات خاطئة بمعدل مرتفع يصل إلى 60% من الاستفسارات، مما يثير مخاوف حول مدى دقتها وموثوقيتها (Marcin).
أجرت Columbia Journalism Review (CJR) الدراسة، حيث قدمت لثمانية أدوات ذكاء اصطناعي مقطعًا من مقال، وطلبت منها تحديد عنوان المقال الأصلي، الناشر، تاريخ النشر، ورابط المصدر.
وذكرت CJR في تقريرها: "معظم الأدوات التي اختبرناها قدمت إجابات غير دقيقة بثقة مقلقة، نادرًا ما استخدمت عبارات مثل "يبدو أن" أو "من المحتمل"، كما لم تعترف بفجوات معرفتها بعبارات مثل "لم أتمكن من العثور على المقال الدقيق'" (Marcin).
هذه النتائج تعزز الشكوك حول قدرة أدوات البحث المدعومة بالذكاء الاصطناعي على تقديم معلومات دقيقة، خاصة مع تزايد استخدامها. وفقًا للتقرير، ربع الأميركيين يستخدمون الذكاء الاصطناعي للبحث بدلاً من محركات البحث التقليدية.
أخبار ذات صلة
يأتي ذلك في وقت تدفع فيه Google بقوة نحو تعزيز الاعتماد على الذكاء الاصطناعي في البحث، حيث أعلنت هذا الشهر عن توسيع نطاق ميزات الذكاء الاصطناعي في البحث، وبدأت اختبار نتائج بحث تعتمد بالكامل على الذكاء الاصطناعي.
تشير الدراسة إلى أن هذه ليست المرة الأولى التي تُظهر فيها أدوات الذكاء الاصطناعي ثقة زائدة رغم تقديمها معلومات خاطئة، ما يثير تساؤلات حول مستقبل هذه التقنيات ومدى تأثيرها على دقة المعلومات التي يحصل عليها المستخدمون.
إسلام العبادي(أبوظبي)
المصدر: صحيفة الاتحاد
كلمات دلالية: الأخبار الذكاء الاصطناعي الولايات المتحدة الأميركية الذکاء الاصطناعی
إقرأ أيضاً:
دراسة: شات جي بي تي قد يسبب تراجعًا في القدرات العقلية
كشفت دراسة جديدة أجراها مختبر MIT Media Lab التابع لمعهد ماساتشوستس للتكنولوجيا أن استخدام روبوت الدردشة القائم على الذكاء الاصطناعي ChatGPT لكتابة المقالات قد يكون مرتبطًا بتراجع في الأداء الإدراكي للمستخدمين.
أظهرت الدراسة، التي تابعت نشاط الدماغ لدى ثلاث مجموعات من المشاركين، نتائج مثيرة للقلق حول الأثر العصبي والسلوكي طويل المدى لهذا النوع من الاعتماد على الذكاء الاصطناعي.
أُجريت الدراسة من خلال تقسيم المشاركين إلى ثلاث مجموعات: الأولى اعتمدت على ChatGPT لكتابة مقالات، والثانية استخدمت محركات البحث التقليدية، أما المجموعة الثالثة فكتبت بدون أي مصادر خارجية. بعدها، تم قياس نشاط الدماغ باستخدام تقنية تخطيط كهربية الدماغ (EEG).
النتائج أظهرت أن المجموعة التي استخدمت ChatGPT كانت الأقل في ترابط الشبكات العصبية، كما أظهرت ضعفًا في القدرة على تذكر تفاصيل المقالات التي كتبها أفرادها، مقارنة بالمجموعتين الأخريين.
أوضحت الدراسة أن "مستخدمي نماذج اللغة الكبيرة أظهروا أداءً أضعف بشكل مستمر على المستويات العصبية واللغوية والسلوكية، ما يثير تساؤلات حول تأثيرات الاعتماد طويل الأمد على الذكاء الاصطناعي في العملية التعليمية".
التحذير الأكبر: التأثير على أدمغة الأطفال
قالت الباحثة الرئيسية في الدراسة، ناتاليا كوسمينا، في تصريحات لمجلة Time، إن القلق الأكبر يتمثل في استخدام ChatGPT من قبل الأطفال، نظرًا لأن أدمغتهم لا تزال في طور النمو.
وأضافت: "السبب في نشر الدراسة الآن، حتى قبل الانتهاء من المراجعة العلمية الكاملة، هو خوفي من أن يقوم أحد صانعي السياسات بعد ستة إلى ثمانية أشهر بالقول: دعونا نقدم ChatGPT في رياض الأطفال. أعتقد أن هذا سيكون قرارًا سيئًا ومدمرًا. العقول النامية هي الأكثر عرضة للخطر".
وبحسب كوسمينا، فإن المستخدمين الذين لا يستعينون بمصادر خارجية أثناء الكتابة يطورون شبكات دماغية أقوى وأكثر توزعًا، وهو ما يعتبر مؤشرًا على تفاعل معرفي أعمق وأكثر صحة.
دعم متزايد للذكاء الاصطناعي في التعليمعلى الجانب الآخر، يرى بعض صناع القرار في الولايات المتحدة أن الذكاء الاصطناعي يمثل فرصة تعليمية مهمة. فقد وقع الرئيس الأميركي السابق دونالد ترامب أمرًا تنفيذيًا في أبريل يدعو إلى دمج أدوات الذكاء الاصطناعي في المدارس الأميركية.
وجاء في الأمر التنفيذي: "لضمان بقاء الولايات المتحدة في موقع الريادة العالمية في هذه الثورة التكنولوجية، علينا أن نوفر لشبابنا فرصًا لتطوير المهارات والفهم اللازمين لاستخدام وإنشاء الجيل القادم من تكنولوجيا الذكاء الاصطناعي.
من خلال تعزيز كفاءة الذكاء الاصطناعي، سنزود طلابنا بالمعرفة والمهارات الأساسية للتأقلم والازدهار في مجتمع رقمي متزايد".
دراسات مستقبلية قيد الإعدادأكدت كوسمينا أن فريقها يعمل حاليًا على دراسة جديدة تقارن نشاط الدماغ لدى مهندسي البرمجيات والمبرمجين الذين يستخدمون الذكاء الاصطناعي، مع أولئك الذين لا يعتمدون عليه في عملهم اليومي، وذلك لفهم أعمق لتأثير هذه الأدوات على التفكير الإبداعي وحل المشكلات.
في ظل الانتشار الواسع لاستخدام أدوات الذكاء الاصطناعي، يبدو أن الحوار حول أثرها على القدرات المعرفية سيستمر، لا سيما مع دخولها المجال التعليمي بقوة.
الجمهور يتفاعل مع رايتشل زيجلر خلال عرض مسرحية «إيفيتا» في لندن