خبير تقني: الذكاء الاصطناعي تسبب في مآسٍ نفسية.. وقوانين جديدة تفرض رقابة
تاريخ النشر: 15th, October 2025 GMT
قال الدكتور حسين العمري أستاذ علم الحاسوب والمقيم في كاليفورنيا، إن الخطوة التي اتخذتها الولاية لتنظيم العلاقة بين الإنسان والذكاء الاصطناعي، أو ما يُعرف بـ"الرفقاء الافتراضيين"، جاءت بعد حوادث مأساوية متكررة أثارت جدلاً واسعًا داخل المجتمع الأمريكي، ودقت ناقوس الخطر بشأن التأثيرات النفسية الخطيرة لهذه التطبيقات على المراهقين والشباب.
وأوضح “حسين”، خلال مداخلة عبر الإنترنت عبر شاشة “القاهرة الإخبارية”، أن أبرز هذه الحوادث كانت انتحار الشاب آدم رينزا، الذي استخدم روبوت الدردشة القائم على نموذج "ChatGPT-4" قبل طرح النسخة الخامسة، حيث خطط لعملية انتحاره مع الروبوت على مدى شهور، بهدف أن تكون "درامية وجاذبة للإعلام"، وقد نفذ ذلك بالفعل. كما شهدت ولاية أخرى واقعة انتحار لفتاة تبلغ من العمر 13 عامًا، بعد استخدام تطبيق "Character.AI" الذي يسمح بتكوين علاقات عاطفية مع شخصيات افتراضية، مما دفع أسرتها لرفع دعوى قضائية ضد الشركة المطورة.
وأضاف أن هناك تسريبات وتقارير أشارت إلى تعرض عدد من المستخدمين دون السن القانونية لمحتوى جنسي ورومانسي غير لائق عبر برامج الذكاء الاصطناعي، وهو ما عجّل بمطالبات واسعة في الكونغرس الأمريكي والهيئات التشريعية داخل كاليفورنيا بضرورة إقرار قوانين جديدة تُلزم الشركات بتطبيق معايير صارمة لما يسمى بـ"الذكاء الاصطناعي المسؤول" (Responsible AI).
وأوضح أن هذه القوانين تتضمن منع المحادثات ذات الطابع الجنسي مع المستخدمين القُصّر، وفرض عقوبات على الشركات التي لا ترصد أو توقف تلك الانتهاكات، إلى جانب آليات تقنية للتحقق من العمر ومراقبة أنماط الحوار للكشف المبكر عن حالات إيذاء النفس أو الانتحار.
وأشار إلى أن شركات كبرى مثل OpenAI وCharacter.AI بدأت بالفعل في تطبيق أنظمة جديدة للرقابة الأبوية، بحيث تُبلّغ الأهل تلقائيًا عند رصد أي أحاديث تتعلق بالانتحار أو الأذى الذاتي، فضلًا عن تعيين مختصين في الطب النفسي لمتابعة الحالات الخطرة والتعامل معها بشكل فوري.
وشدد على أن هذه الإجراءات ليست نهاية المطاف، بل بداية لمرحلة تشريعية جديدة تهدف إلى ضبط العلاقة بين الإنسان والذكاء الاصطناعي، وضمان أن تكون التكنولوجيا أداة دعم وتطوير لا خطر وتهديد، خاصة بالنسبة للمراهقين الذين يعيشون مراحل نفسية حساسة.
المصدر: بوابة الوفد
كلمات دلالية: الذكاء الاصطناعي الدردشة التطبيقات المراهقين المراهقين والشباب الذکاء الاصطناعی
إقرأ أيضاً:
«دبي الرقمية» تعرض في «جيتكس» مبادراتها الرائدة بمجالات التكنولوجيا والذكاء الاصطناعي
دبي (الاتحاد)
تعرض دبي الرقمية في جيتكس جلوبال 2025 مبادراتها الرائدة في تسخير التكنولوجيا والذكاء الاصطناعي لخدمة الإنسان.
وعلى جناح مشترك يضم نحو 50 جهة حكومية وغير حكومية، انطلق جناح حكومة دبي الذي نظمته دبي الرقمية، ليكون منصة للإضاءة على آخر الحلول والمبادرات والمستجدات في مسيرة التحول الرقمي في المجالات ذات الصلة.
وتُعد مشاركة دبي الرقمية لدورة 2025 من جيتكس جلوبال بمثابة نقلة نوعية من حيث الاعتماد المكثف على حلول الذكاء الاصطناعي، ولاسيما الذكاء التوكيلي (Agentic AI)، الذي يمكّن الأنظمة الرقمية من التخطيط والتنفيذ الذاتي للمهام المعقدة، وتحويل الخدمات الحكومية إلى تجارب استباقية ومُخصّصة تلبي احتياجات السكان والأعمال بأقل قدر ممكن من التدخل البشري المباشر.
وقال حمد عبيد المنصوري، مدير عام دبي الرقمية: كل محطة من محطات جيتكس جلوبال في دبي تمثل قفزة نوعية باتجاه مستقبل مختلف، وفي هذا الحدث السنوي تتحاور العقول المبدعة مع التكنولوجيا المتحولة باستمرار، فتنشأ الحلول والمبادرات الخلاّقة، ونحن في دبي الرقمية نسعد بكوننا جزءاً من هذه الديناميكية النابضة بالحياة، ولذا فإننا نعِد زوّار منصتنا لهذا العام بالعديد من العناوين الجديدة التي تعكس الجهود المبهرة لفريق دبي الرقمية في مجالات الذكاء الاصطناعي والحلول الرقمية المختلفة.
وتعرض دبي الرقمية في دورة هذا العام باقة استثنائية من المبادرات والمشاريع التي تمثل في مجملها نقلة نوعية، ومحطة متقدمة نحو تعزيز ريادة دبي كمدينة مستقبلية تسخّر أحدث التكنولوجيا لسعادة الإنسان وتعزيز جودة حياة المجتمع.
وتقدم مؤسسة دبي للبيانات والإحصاء خدمات ومشاريع تتضمن مركز ذكاء البيانات والتحليلات المتقدمة الذي يوظف تقنيات الذكاء الاصطناعي لاستخلاص أدق التحليلات، مبادرة الوكيل الإحصائي الجغرافي لتحليل الاتجاهات السكانية والاقتصادية، إضافةً إلى خدمة اسأل بيانات دبي، كما تعرض المؤسسة لوحة دبي التي توفر رؤية فورية بزاوية 360 درجة لدعم صُنّاع القرار، ومحرك الذكاء الاصطناعي لاستطلاعات الرأي والعينات، بالإضافة إلى «سوق البيانات» التي ستفتح الباب لعامة الناس للاستفادة من البيانات المتوفرة لتطوير استثماراتهم أو دراساتهم أو غير ذلك وغيرها من المشاريع والخدمات.
وقال يونس آل ناصر، الرئيس التنفيذي لمؤسسة دبي للبيانات والإحصاء: منصة دبي الرقمية في جيتكس هذا العام تعكس صورة مدينة تدار بالبيانات، وتسترشد بالذكاء الاصطناعي للارتقاء بمستوى خدماتها وبرامجها من خلال وكلاء رقميين يعينون على تحقيق المزيد من الكفاءة والفاعلية في كل المجالات، وتقدم هذه المشاركة رؤية مستقبلية للمدينة الذكية، التي تتدفق البيانات في شرايينها كما لو أنها بيئة حيوية متكاملة تعزز الازدهار والنماء على مستوى الاقتصاد والمجتمع والحياة ككل. في هذه المنظومة أصبحت المدينة اليوم تفكّر مع الناس، وتستلهم احتياجاتهم، وتستبق خدماتهم، وتستشرف المستقبل لتظل في المقدمة على الدوام.
كما ستعرض مؤسسة حكومة دبي الرقمية ضمن مشاركتها في «جيتكس جلوبال 2025» مجموعة من وكلاء الذكاء الاصطناعي المتخصصين في الخدمات الحكومية والتوظيف، والتوريد، والعقود، والمالية، ودعم اللجان وإدارة المنتجات الرقمية وإدارة المهام الحكومية بذكاء وكفاءة.
وقال مطر الحميري الرئيس التنفيذي لمؤسسة حكومة دبي الرقمية: من خلال خدماتنا الرقمية المتكاملة والمدعومة بالذكاء الاصطناعي وإنترنت الأشياء ننتقل إلى مرحلة جديدة من التفاعل الذكي، حيث تصبح الخدمات أكثر قرباً وسلاسة للمجتمع، بما يسهم في تسهيل حياة الناس، ودعم مسيرة الاقتصاد الرقمي، وترسيخ ريادة دبي في تبنّي تقنيات المستقبل وتجسيد مبدأ «المدينة كخدمة».
كما تعرض دبي الرقمية على منصتها حلول مركز دبي للأمن الإلكتروني وفي مقدمتها معيار أمن الاتصالات وهو محرك تدقيق ذكي مدعوم بالذكاء الاصطناعي، ومؤشر دبي للأمن السيبراني.
اجتماع تنسيقي لمناقشة تطوير منظومة الدواء بالمستشفيات الجامعية بقنا