غوغل تزيل بعض الأسئلة الصحية من ملخصات الذكاء الاصطناعي بسبب مخاوف تتعلق بالدقة

كشف تحقيق أجرته صحيفة "ذا غارديان" أن ملخصات "غوغل" المولدة بالذكاء الاصطناعي على منصتها قدّمت معلومات صحية غير دقيقة للمستخدمين.

أفادت تقارير بأن غوغل أزالت بعض ملخصات الذكاء الاصطناعي ("AI Overviews") الخاصة بالأسئلة الصحية، عقب تحقيق كشف أن بعض المعلومات كانت مضللة.

"ملخصات الذكاء الاصطناعي" هي خلاصات يولدها الذكاء الاصطناعي وتعرض معلومات استجابةً لموضوع أو سؤال، في أعلى نتائج البحث.

كشف تحقيق لصحيفة "الغارديان" أن بعض هذه الملخصات تضمّن معلومات صحية غير دقيقة، مما يعرّض الناس لخطر الضرر.

ووجدت الصحيفة أن "ملخصات الذكاء الاصطناعي" قدّمت كماً هائلاً من الأرقام مع سياق ضئيل رداً على أسئلة مثل "ما هو المعدل الطبيعي لاختبارات دم الكبد؟" و"ما هو المعدل الطبيعي لاختبارات وظائف الكبد؟". كما أن الإجابات لم تأخذ في الحسبان أي فروقات قد تنتج تبعاً للجنسية أو الجنس أو العِرق أو العمر.

Related إندونيسيا وماليزيا تحظران روبوت "غروك" لإيلون ماسك

وأظهرت نتائج بحث غوغل لكلا السؤالين مقتطف مميز، وهو فقرة تُستخرج من الموقع الأكثر صلة بسؤال المستخدم وتُعرض أعلى نتائج البحث.

وفي الحالتين، اختارت غوغل ضمن المقتطف استخراج نطاق المستويات الصحية لأنواع مختلفة من المواد الموجودة في الكبد، مثل ناقلة أمين الألانين (ALT)، التي تنظّم إنتاج الطاقة، وناقلة أمين الأسبارتات (AST)، التي تكشف خلايا دم تالفة، والفوسفاتاز القلوية (ALP)، التي تساعد على تكسير البروتينات.

ووفقاً لما توصلت إليه "الغارديان"، استخرجت غوغل هذه الأرقام من "ماكس هيلثكير"، وهي سلسلة مستشفيات هندية هادفة للربح في نيودلهي.

وتختلف المقتطفات المميّزة عن "ملخصات الذكاء الاصطناعي" لأن النص في المقتطف لا تنتجه أنظمة الذكاء الاصطناعي.

وأظهر تحقيق "الغارديان" أن صيغاً مختلفة لتلك الأسئلة، مثل "[liver function test] lft reference range" أو "lft test reference range"، كانت لا تزال تولّد ملخصات بالذكاء الاصطناعي. واختبارات وظائف الكبد هي فحوصات دم تقيس البروتينات والإنزيمات للتحقق من مدى كفاءة عمل الكبد.

وأفادت تقارير بأن غوغل نصحت المصابين بسرطان البنكرياس بتجنّب الأطعمة عالية الدهون، وهو ما قال خبراء لصحيفة "الغارديان" إنه توصية غير سليمة لأنها قد تزيد خطر وفاة المرضى جرّاء المرض.

ويأتي تحقيق "الغارديان" في وقت يطلق فيه خبراء تحذيرات بشأن كيفية "تهلوس" روبوتات الدردشة بالذكاء الاصطناعي، أي أنها تختلق إجابات زائفة عندما لا تتوافر لديها المعلومات الصحيحة.

وتواصلت "Euronews Next" مع غوغل للسؤال عما إذا كانت قد أزالت ملخصات الذكاء الاصطناعي من بعض الاستفسارات الصحية، لكنها لم تتلق رداً فورياً.

وأعلنت غوغل في عطلة نهاية الأسبوع أنها ستضيف ملخصات الذكاء الاصطناعي إلى خدمة بريدها الإلكتروني "Gmail".

وتتيح الميزة الجديدة للمستخدمين طرح أسئلة والحصول على إجابات بشأن رسائلهم الإلكترونية بدلاً من البحث فيها بكلمات مفتاحية.

انتقل إلى اختصارات الوصول شارك محادثة

المصدر: euronews