أخطاء لتطبيق ذكاء اصطناعي يستخدم في المستشفيات تثير قلقا
تاريخ النشر: 28th, October 2024 GMT
أثار عدد من الباحثين مخاوف كبيرة بشأن أداة النسخ الصوتي "وسبر" التي طورتها شركة "أوبين إيه آي"، والتي تُستخدم في المستشفيات ضمن مهام نسخ محادثات المرضى مع الأطباء.
وكشف الباحثون عن عيوب وأخطاء وصفوها بـ"الهلوسات القاتلة"، حيث تظهر الأداة أحيانًا ميلًا لاختراع معلومات غير دقيقة، مما قد يعرّض المرضى إلى تشخيصات أو إجراءات طبية غير صحيحة، وربما خطيرة.
ورغم أن شركة "أوبين إيه آي" أشادت سابقًا بهذه الأداة، ووصفتها بأنها تتمتع بدقة تقارب مستوى الإنسان، إلا أن العلماء وجدوا أن "وسبر" تختلق أحيانًا مقاطع نصية أو جملًا كاملة لم ترد على لسان المتحدثين، وبحسب ما أفاد به أكثر من اثني عشر مهندسًا وباحثًا أكاديميًّا، فقد تتضمن هذه "الهلاوس" تعليقات عنصرية، أو خطابًا عنيفًا، أو حتى علاجات طبية غير واقعية.
وأشار الباحثون إلى أن أحد أخطر استخدامات "وسبر" هو في القطاع الصحي، حيث تبادر بعض المراكز الطبية إلى اعتماد الأداة لنسخ استشارات المرضى، رغم تحذيرات "أوبين إيه آي" الصريحة من استخدامها في "البيئات عالية الخطورة"، ويثير هذا الاندفاع لاستخدام "وسبر" قلق الباحثين بشأن احتمالية تنفيذ الأطباء لإجراءات بناءً على معلومات غير صحيحة.
في تجربة من جامعة ميشيغان، أجرى أحد الباحثين دراسة حول دقة "وسبر" في نسخ الاجتماعات العامة، واكتشف أن الأداة تولد "هلوسات" في ثمانية من كل عشرة نسخ صوتية قام بفحصها، دفع هذا الأمر الباحث إلى محاولة تحسين النموذج، إلا أن النتائج أظهرت صعوبة تصحيح الأخطاء بشكل كامل.
وعلقت مديرة مكتب البيت الأبيض لسياسة العلوم والتكنولوجيا السابقة ألوندرا نيلسون، على المخاطر المرتبطة باستخدام "وسبر" في بيئات مثل المستشفيات، حيث حذرت من أن الأخطاء الناتجة عن الهلوسات قد تكون لها "عواقب وخيمة حقًّا".
وأضافت نيلسون، الأستاذة بمعهد الدراسات المتقدمة في نيوجيرسي، قائلة: "لا أحد يرغب في تلقي تشخيص خاطئ، ومن الضروري أن تكون هناك ثقة كبيرة في الأدوات المستخدمة في المجال الطبي".
وأوضح الخبراء أن ظاهرة الهلوسات في الذكاء الاصطناعي ليست مقصورة على "وسبر" وحدها؛ بل يمكن أن تظهر في العديد من الأدوات التي تعتمد على تقنيات الذكاء الاصطناعي في الترجمة، وإنشاء النصوص، وتقديم ترجمات الفيديو. ويؤكد الباحثون أن انتشار مثل هذه الهلوسات على نطاق واسع قد يهدد سلامة المستخدمين في الصناعات التي تعتمد على الدقة، مثل الطب والصحافة.
المصدر: عربي21
كلمات دلالية: سياسة اقتصاد رياضة مقالات صحافة أفكار عالم الفن تكنولوجيا صحة تفاعلي سياسة اقتصاد رياضة مقالات صحافة أفكار عالم الفن تكنولوجيا صحة تفاعلي صحة طب وصحة طب وصحة النسخ الصوتي المستشفيات القطاع الصحي الذكاء الاصطناعي المستشفيات القطاع الصحي الذكاء الاصطناعي النسخ الصوتي المزيد في صحة طب وصحة طب وصحة طب وصحة طب وصحة طب وصحة طب وصحة سياسة سياسة صحة صحة صحة صحة صحة صحة صحة صحة سياسة اقتصاد رياضة صحافة أفكار عالم الفن تكنولوجيا صحة
إقرأ أيضاً:
ثورة التكنولوجيا.. ذكاء اصطناعي يكشف النووي وهاتف تكنو ومتصفح أوبرا يذهلان العالم
أعلنت شركة تكنو Tecno عن إطلاق هاتفها الذكي الأحدث Pova Curve، الذي يجمع بين قوة الأداء ودعم شبكات الجيل الخامس 5G، ليقدم تجربة استثنائية بسعر منافس!
وبحسب الشركة، يأتي الهاتف بهيكل فائق المتانة مقاوم للماء والغبار بمعيار IP64، ووزن خفيف يبلغ 177 غرامًا، مما يجعله مثاليًا للاستخدام اليومي مع حماية موثوقة. شاشة AMOLED كبيرة بحجم 6.78 بوصة، ودقة عرض 2436×1080 بكسل، مع تردد 144 هيرتز، وكثافة ألوان تصل إلى 393 بكسل لكل إنش، كلها تضفي سلاسة وسطوعًا مبهرًا على كل صورة وشاشة عرض، إضافة إلى حماية زجاج Corning Gorilla Glass 5 لمقاومة الصدمات والخدوش.
ووفق الشركة، بفضل معالج Mediatek Dimensity 7300 Ultimate ونظام التشغيل الأحدث أندرويد 15 القابل للتحديث، يضمن الهاتف أداءً سريعًا وانسيابية في التعامل مع التطبيقات والألعاب، مدعومًا بذاكرة وصول عشوائي 6 أو 8 غيغابايت، وتخزين داخلي يصل إلى 256 غيغابايت.
وبحسب الشركة، الكاميرات الخلفية الثنائية بدقة 64+2 ميغابيكسل تدعم تصوير فيديوهات 4K بجودة عالية، بينما الكاميرا الأمامية 13 ميغابيكسل تلتقط صور سيلفي واضحة ومشرقة، وتشمل المزايا أيضًا شريحتي اتصال، منفذ USB Type-C 2.0، راديو FM، شريحة NFC، ماسح بصمة مدمج في الشاشة، وتقنية Infrared للتحكم بالأجهزة الإلكترونية عن بعد، وبطارية ضخمة بسعة 5000 ميللي أمبير تدعم الشحن السريع بقوة 45 واط، لتبقيك متصلاً لفترة أطول بدون قلق.
Opera تطلق متصفح Neon الذكي.. مستقبل التصفح بين يديك بالذكاء الاصطناعي
في عالم التكنولوجيا المتغير بسرعة، كشفت شركة Opera عن متصفحها الجديد Neon المدعوم بالذكاء الاصطناعي، الذي سيغير قواعد اللعب في تجربة التصفح!
ويتمتع Neon بقدرة فريدة على التفاعل مع المستخدم، والبحث الذكي عن المعلومات، وتصميم المحتوى، وتلخيص البيانات بشكل فوري، فضلًا عن دعم البرمجة وكتابة الأكواد لإنشاء ألعاب إلكترونية ومواقع على الإنترنت بسهولة مذهلة.
وتمكن ميزة Browser Operator المستخدم من أتمتة البيانات والتسوق الإلكتروني، كما يعمل المتصفح بذكاء حتى في حالة انقطاع الإنترنت، مقدماً ملخصات للأخبار والمقالات بشكل مستمر، ليبقيك على اطلاع دائم.
والمتصفح متوفر الآن بنظام دعوات خاص، مع إمكانية التقديم عبر الموقع الرسمي، وتخطط Opera لإطلاقه لاحقًا بنظام اشتراك يفتح آفاقًا جديدة في عالم التصفح الذكي.
علماء صينيون يطورون نظام ذكاء اصطناعي فريد لتمييز الرؤوس النووية الحقيقية من المزيفة
كشف فريق من الباحثين في معهد الصين للطاقة الذرية عن نظام جديد يعتمد على الذكاء الاصطناعي قادر على التمييز بدقة بين الرؤوس النووية الحقيقية والمزيفة، في خطوة رائدة عالمياً في مجال التحقق من الأسلحة النووية.
وجاء هذا الإعلان عبر ورقة بحثية نشرت في أبريل الماضي، حيث أوضح الباحثون أن النظام يعتمد على بروتوكول تحقق مشترك بين الصين والولايات المتحدة تم اقتراحه منذ أكثر من عشر سنوات، لكن صعوبات أمنية وتقنية حالت دون تطبيقه سابقاً.
ويرتكز النظام على تقنية متقدمة تجمع بين علم التشفير والفيزياء النووية، ويستخدم ملايين النماذج الافتراضية لمكونات نووية عبر محاكاة “مونت كارلو”، لتمييز المواد الحقيقية مثل اليورانيوم عالي التخصيب عن المواد المضللة كالرصاص واليورانيوم منخفض التخصيب.
ولضمان حماية الأسرار العسكرية، وضع الباحثون حاجزاً من مادة البولي إيثيلين يحتوي على 400 فتحة تسمح بمرور الإشعاعات دون الكشف عن التفاصيل الهندسية للرؤوس النووية. ومن خلال شبكة تعلم عميق متعددة الطبقات، تم تدريب النظام على تحليل تدفق النيوترونات بدقة عالية، ما مكّنه من التمييز بين الرؤوس الحقيقية والمزيفة.
ويتميز النظام بقدرته على تقييم مدى قدرة الرأس الحربي على إحداث تفاعل نووي تسلسلي، وهو جوهر عمل السلاح النووي، دون الحاجة للكشف عن تصميمه التفصيلي، ما يعزز التوازن بين السرية العسكرية والشفافية في مجال الرقابة النووية.
ويُعتبر هذا الابتكار الأول من نوعه عالمياً، وقد يفتح آفاقاً جديدة في محادثات نزع السلاح النووي، حيث يمكن أن يعيد بناء الثقة بين الدول من خلال توفير آلية تحقق موثوقة تحفظ الأمن القومي دون التنازل عن الشفافية، مما يمنح الصين ورقة دبلوماسية قوية في المفاوضات الدولية.
برلماني يطالب بإجراء تعديل تشريعي شامل في قانون الضريبة على العقارات المبنية