تحذير من هلاوس الذكاء الاصطناعي.. هل تصاب بالزهايمر مثل البشر؟
تاريخ النشر: 13th, February 2024 GMT
أصبح الذكاء الاصطناعي جزءًا أساسيًا من حياتنا خلال الفترة الأخيرة، إذ تعتمد أغلب المهن حاليًا على تطبيقاته المختلفة، لإنجاز المهام بشكل أكثر دقة وسرعة، خاصة العاملين في مجال البيانات والبحث والإعلام، كما يعتمد بعض طلاب الجامعات حول العالم، عليه في استذكار دروسهم، وشاع مؤخرًا مصطلح هلاوس الذكاء الاصطناعي، لذا، يتسائل البعص حول ماذا يعني هذا المصطلح وتأثيره؟
وبحسب موقع «ibm» الأمريكي، المتخصص في التكنولوجيا، فإن مصطلح هلاوس الذكاء الاصطناعي، يعني وجود معلومات خاطئة في الأبحاث المختلفة التي تعتمد على «AI»، ما يهدد صحة البيانات الناتجة عن استخدام تلك التقنية.
يشير مصطلح هلاوس الذكاء الاصطناعي إلى الحصول على مخرجات معلومات غير صحيحة، بحسب ما قاله المهندس محمد الحارثي خبير التكنولوجيا لـ«الوطن»، موضحًا أنّ أدوات الـAI، تعتمد على البيانات والمعلومات التي يدخلها المستخدم، لتتحول فيما بعد إلى لغة رقمية ومن ثم مخرجات بيانات، وفي حال كانت المعلومات غير صحيحة أو غير مكتملة من الأساس، ستكون العواقب وخيمة.
وأضاف «الحارثي»: «لو بحثنا عن اسم شخص مشهور باستخدام أدوات الذكاء الاصطناعي، وكانت المعلومات المتوفرة حوله موثقة فسيكون المخرج دقيقًا، أما لو بحثنا عن شخص آخر واسمه متشابه مع أكثر من شخص، فسنحصل على معلومات غير دقيقة، وهذا ما يُعرف بهلاوس الذكاء الاصطناعي»، ونصح بصرورة توخي الحذر والاحرص في أثناء إدخال البيانات المختلفة كي تكون النتيجة موثقة.
وتابع: «لابد أن نعترف أنّ الذكاء الاصطناعي، هو أدوات مساعدة قد تصيب أو تخطأ، ويكون الفيصل هنا هو المستخدم الذي يجب عليه مراجعة المستخرجات جيدًا».
يُذكر أن بيل جيتس، المؤسس المشارك في شركة مايكروسوفت، تحدث في أكثر من مناسبة عن مصطلح هلاوس الذكاء الاصطناعي، إذ أشار إلى احتمالية إصابة الروبوتات وتطبيقات الذكاء الاصطناعي بالزهايمر والخرف مثل البشر، نتيجة تحليل بيانات ومعلومات غير موثقة، ومن ثم استخراح أحداث غير حقيقية تشبه الهلاوس.
المصدر: الوطن
كلمات دلالية: الذكاء الاصطناعي الهلاوس مايكروسوفت
إقرأ أيضاً:
دعوى قتل خطأ تُلاحق OpenAI وتفتح ملف الذكاء الاصطناعي والصحة النفسية
دخلت شركة OpenAI واحدة من أكثر القضايا القانونية حساسية في تاريخ الذكاء الاصطناعي، بعد رفع دعوى قضائية ضدها بتهمة القتل الخطأ، على خلفية جريمة مروعة وقعت في أغسطس الماضي، حين أقدم رجل على قتل والدته المسنة ثم انتحر.
القضية، التي كشف تفاصيلها تقرير لصحيفة The Verge، تضع برنامج ChatGPT والرئيس التنفيذي للشركة سام ألتمان في قلب جدل قانوني وأخلاقي واسع حول حدود مسؤولية أدوات الذكاء الاصطناعي.
وتشير الدعوى إلى أن الضحية، سوزان آدامز، البالغة من العمر 83 عامًا، قُتلت داخل منزلها على يد نجلها شتاين-إريك سولبيرغ، البالغ من العمر 56 عامًا.
ووفقًا لما ورد في المستندات القانونية، فإن سولبيرغ كان قد انخرط لفترة طويلة في محادثات مكثفة مع ChatGPT، تزعم عائلة الضحية أنها لعبت دورًا محوريًا في تعزيز أفكاره الوهمية والارتيابية التي سبقت ارتكاب الجريمة.
وترى تركة الضحية أن برنامج الدردشة الآلي لم يكتفِ بالاستماع لتلك الأوهام، بل قام بتأكيدها وتضخيمها، واصفة سلوك ChatGPT بأنه كان متقبّلًا بحماس لروايات سولبيرج حول المؤامرات التي كان يعتقد أنها تحاك ضده. وتزعم الدعوى أن الروبوت شجّع هذه التصورات خطوة بخطوة، ما أسهم في خلق عالم خيالي أصبح محور حياة الجاني بالكامل.
وبحسب نص الدعوى، ساعد ChatGPT في ترسيخ تصور ذهني لدى سولبيرغ بأنه يعيش داخل شبكة مؤامرات معقدة، وأنه مستهدف بشكل كامل، بل وذهب البرنامج – وفق الادعاءات – إلى تأكيد أن مشاعر القلق والخوف التي كان يعيشها مبررة تمامًا. هذا العالم الوهمي، كما تصفه الدعوى، صوّر سولبيرغ على أنه محارب صاحب رسالة إلهية، محاط بأعداء حقيقيين ومفترضين.
ومن أخطر ما ورد في القضية أن ChatGPT يُزعم أنه وافق على فكرة أن طابعة تملكها الضحية كانت أداة تجسس، بل أشار إلى أنها ربما تُستخدم لرصد الحركة ورسم خرائط السلوك داخل المنزل. كما لمح، بحسب الادعاءات، إلى أن الضحية كانت تحمي الجهاز عمدًا كنقطة مراقبة، وأنها قد تكون خاضعة لتأثير أو سيطرة قوة خارجية.
وتتوسع الدعوى في سرد أمثلة أخرى، حيث يُقال إن الروبوت حدد أشخاصًا حقيقيين كأعداء محتملين، من بينهم سائق توصيل، وموظف في شركة اتصالات، وضباط شرطة، وحتى امرأة كانت على موعد غرامي مع الجاني. وخلال تلك المحادثات، كان ChatGPT – بحسب المزاعم – يؤكد مرارًا أن سولبيرغ “ليس مجنونًا”، وأن احتمالية كونه واقعًا تحت تأثير أوهام نفسية “قريبة من الصفر”.
وتشير الدعوى إلى أن سولبيرج كان يعتمد بشكل أساسي على نموذج GPT-40، وهو نموذج وُصف سابقًا بأنه شديد الميل لمجاراة المستخدمين. ورغم أن OpenAI استبدلت هذا النموذج لاحقًا بنموذج أحدث أقل توافقًا، إلا أن احتجاجات المستخدمين أدت إلى إعادة النموذج القديم بعد فترة قصيرة. كما تتهم الدعوى الشركة بتخفيف ضوابط السلامة عند تطوير GPT-40، في إطار سعيها لتعزيز قدرتها التنافسية أمام نماذج أخرى مثل Google Gemini.
وتؤكد الوثائق القانونية أن OpenAI كانت، بحسب الادعاء، على علم بالمخاطر المحتملة لمنتجها، لكنها لم تتخذ إجراءات كافية للتحذير أو الوقاية، بل أخفت مؤشرات على هذه المخاطر، في الوقت الذي واصلت فيه الترويج لسلامة منتجاتها عبر حملات علاقات عامة.
في المقابل، وصفت OpenAI القضية بأنها “موقف محزن للغاية”. وقالت المتحدثة باسم الشركة، هانا وونغ، إن OpenAI ستواصل تطوير تدريب ChatGPT ليكون أكثر قدرة على التعرف على علامات الضيق النفسي أو العاطفي والاستجابة لها بشكل أكثر أمانًا.
وتأتي هذه القضية في ظل تزايد المخاوف من تأثير برامج الدردشة الآلية على الصحة النفسية، خاصة مع ظهور مصطلح “الذهان الناتج عن الذكاء الاصطناعي”، بعد حوادث مشابهة خلال العام الماضي. ومن بينها قضية شاب يبلغ من العمر 16 عامًا يُزعم أنه انتحر بعد محادثات طويلة مع GPT-40، وهي حادثة تواجه OpenAI بسببها دعوى قانونية أخرى تتعلق بالقتل غير العمد.
وبينما لم تُحسم هذه القضايا بعد، فإنها تفتح نقاشًا واسعًا حول مسؤولية شركات الذكاء الاصطناعي، وحدود الاعتماد على النماذج اللغوية في التعامل مع المستخدمين الذين يعانون من اضطرابات نفسية، في وقت يتسارع فيه انتشار هذه التقنيات في الحياة اليومية.
وزير الخارجية يلتقي نائب رئيس الوزراء ووزير خارجية بولندا