احذر.. روبوتات الدردشة قد تُضللك صحيًا| إيه الحكاية؟

في عصر أصبحت فيه تقنيات الذكاء الاصطناعي جزءًا من الحياة اليومية، باتت روبوتات الدردشة تُستخدم على نطاق واسع للإجابة عن استفسارات المستخدمين في مختلف المجالات، ومنها المجال الصحي، غير أن دراسة جديدة نُشرت في المجلة العالمية Annals of Internal Medicine، وجهت تحذيرًا صارمًا متضمنًا: (ثق بطبيبك، لا بروبوت الدردشة).

كيف تحافظ على سلامتك؟.. 5 نصائح لممارسة الرياضة في الطقس الحارتوم كروز والفشار.. الوجبة الخفيفة التي تجمع بين المذاق والفوائد الصحيةإريك ترامب يلمّح إلى احتمال ترشحه لرئاسة أمريكا| تفاصيلدراسة تكشف عن مخاطر الذكاء الاصطناعي في الصحة

أجرى باحثون دراسة تحليلية لتقييم مدى دقة المعلومات الصحية التي تقدمها خمسة من أبرز نماذج الذكاء الاصطناعي، والتي طورتها شركات تكنولوجية كبرى مثل: أوبن إيه آي، أنثروبيك، ميتا، جوجل، وإكس كورب، وتُستخدم هذه النماذج على نطاق واسع، وتُشكل الأساس للعديد من روبوتات الدردشة المتوفرة عبر التطبيقات والمواقع الإلكترونية.

نتائج صادمة: 88% من الردود كانت خاطئة

اعتمد الباحثون على أدوات خاصة بالمطورين (لا تتوفر لعامة المستخدمين) لبرمجة هذه النماذج وتوجيهها للإجابة عن أسئلة صحية حساسة، وكانت النتائج مثيرة للقلق، إذ تبين أن نسبة الردود الخاطئة بلغت 88% من إجمالي الإجابات المقدمة.

والمقلق أكثر أن تلك الردود جاءت في قالب يبدو موثوقًا: لغة علمية، نبرة رسمية، وأحيانًا مراجع مختلقة، مما يزيد من قابلية تصديقها من قِبل المستخدم العادي.

ادعاءات خطيرة ومعلومات مضللة

تضمنت المعلومات المغلوطة التي قدمتها روبوتات الدردشة ادعاءات خرافية سبق أن تم تفنيدها علميًا، مثل:

أن اللقاحات تُسبب التوحد.أن فيروس نقص المناعة البشرية (الإيدز) ينتقل عبر الهواء.أن شبكات الجيل الخامس (5G) تؤدي إلى العقم.

وقد لاحظت الدراسة أن أربعة من النماذج الخمسة قدمت إجابات خاطئة بنسبة 100%، فيما أظهر نموذج واحد فقط مقاومة جزئية، حيث قدم معلومات مضللة في 40% من الحالات.

تحذير من التلاعب بالمجتمع خلال الأزمات

أكد الباحث ناتانش مودي، من جامعة جنوب إفريقيا وأحد مؤلفي الدراسة، أن هذه النتائج تمثل جرس إنذار خطير، وقال في بيانه:

"بدون تدخل سريع، قد تستغل الجهات الخبيثة هذه الأنظمة للتلاعب بالنقاش العام حول القضايا الصحية، لا سيما في أوقات الأزمات مثل الأوبئة أو حملات التطعيم."

الذكاء الاصطناعي أداة، لا بديلًا عن الأطباء

تشدد هذه الدراسة على أن الذكاء الاصطناعي، رغم إمكانياته المتقدمة، لا يمكن أن يكون بديلًا عن الأطباء والخبراء المؤهلين، خاصة في ما يتعلق بصحة الإنسان، لذلك يبقى التشاور مع الأطباء هو الخيار الآمن، في مواجهة ما قد يبدو "علميًا" لكنه في جوهره قد يكون مضللًا وخطيرًا.

طباعة شارك الذكاء الاصطناعي تقنيات الذكاء الاصطناعي روبوتات الدردشة المجال الصحي مخاطر الذكاء الاصطناعي مخاطر الذكاء الاصطناعي في الصحة

المصدر: صدى البلد