ميتا توقف مؤقتًا وصول المراهقين لشخصيات الدردشة الذكية بعد مخاوف تتعلق بالسلامة

في خطوة تعكس تصاعد القلق العالمي حول تأثير تقنيات الذكاء الاصطناعي على الفئات العمرية الصغيرة، أعلنت شركة ميتا عن إيقاف وصول المراهقين مؤقتًا إلى شخصيات الدردشة الذكية التابعة لها، وذلك لحين الانتهاء من تطوير تجربة أكثر أمانًا تتضمن أدوات رقابة أبوية واضحة.

 القرار يأتي بعد شهور من الجدل والتقارير التي كشفت عن تفاعلات غير مناسبة بين بعض هذه الشخصيات الذكية ومستخدمين دون السن القانونية.

وبحسب بيان رسمي صادر عن الشركة، فإن ميتا قررت تعليق إتاحة شخصيات الدردشة الذكية بشكلها الحالي أمام المراهقين على مستوى العالم، مؤكدة أن هذا الإجراء مؤقت، ومرتبط بإعادة تصميم التجربة بما يضمن حماية أفضل للفئات العمرية الصغيرة. وتشمل القيود الجديدة جميع الحسابات المصنفة كمراهقة، إضافة إلى المستخدمين الذين يعلنون أنهم بالغون، لكن أنظمة التنبؤ بالعمر لدى الشركة تشير إلى أنهم دون السن القانونية.

القرار لم يأتِ من فراغ، إذ واجهت ميتا خلال الفترة الماضية انتقادات حادة بعد تقارير إعلامية تحدثت عن قدرة بعض روبوتات الدردشة ذات الطابع الشخصي أو الرفيق على الانخراط في محادثات ذات طبيعة جنسية أو عاطفية مع قُصّر. تقارير أخرى، نقلتها وكالات عالمية، أشارت إلى وثائق داخلية لدى الشركة كانت تسمح – عن طريق الخطأ – بإجراء محادثات وُصفت بأنها حسية مع مستخدمين دون 18 عامًا، وهو ما اعتبرته ميتا لاحقًا توصيفًا غير دقيق ولا يتماشى مع سياساتها المعلنة.

وفي محاولة لاحتواء الأزمة، كانت الشركة قد أعلنت في أغسطس الماضي عن إعادة تدريب نماذج الذكاء الاصطناعي الخاصة بها، مع إضافة ما وصفته بحواجز أمان لمنع النقاش حول موضوعات حساسة مثل إيذاء النفس، واضطرابات الأكل، والانتحار، أو العلاقات العاطفية مع المراهقين. إلا أن هذه الإجراءات لم تكن كافية لتهدئة المخاوف التنظيمية والإعلامية، ما دفع ميتا الآن إلى اتخاذ خطوة أكثر حسمًا.

الميزة اللافتة في القرار الجديد أن الحظر لا يشمل جميع خدمات الذكاء الاصطناعي لدى الشركة، إذ أوضحت ميتا أن المراهقين سيظلون قادرين على استخدام روبوت Meta AI الرسمي، مؤكدة أن هذا الروبوت مزود بالفعل بحماية مناسبة للفئات العمرية الصغيرة، وأنه يخضع لضوابط أكثر صرامة مقارنة بشخصيات الدردشة الأخرى ذات الطابع التفاعلي أو الترفيهي.

ويأتي هذا التطور في وقت تتزايد فيه الضغوط القانونية على شركات التكنولوجيا الكبرى فقد فتحت لجنة التجارة الفيدرالية الأميركية تحقيقات بشأن شركات تطور روبوتات دردشة رفاقية، كما أطلق المدعي العام في ولاية تكساس تحقيقًا منفصلًا يتعلق بادعاءات مضللة حول الفوائد النفسية لهذه التقنيات. وفي سياق متصل، تستعد ميتا لخوض محاكمة تتعلق بسلامة الأطفال، من المقرر أن تبدأ خلال الأسابيع المقبلة، وسط محاولات من الشركة لاستبعاد شهادات تتعلق بأنظمة الذكاء الاصطناعي من ملف القضية.

قرار ميتا يعكس تحولًا أوسع في طريقة تعامل شركات التكنولوجيا مع الذكاء الاصطناعي، خاصة عندما يتعلق الأمر بالمراهقين والأطفال.

 فبعد سنوات من التركيز على سرعة الابتكار وإطلاق الميزات الجديدة، باتت مسألة السلامة الرقمية في صدارة الأولويات، سواء بدافع القلق المجتمعي أو تحت ضغط الجهات التنظيمية.

ويبقى السؤال الأهم: هل ستنجح أدوات الرقابة الأبوية المنتظرة في تحقيق التوازن بين الإبداع التكنولوجي وحماية المستخدمين الصغار؟ الإجابة مرهونة بمدى جدية هذه الإجراءات، وقدرة ميتا وغيرها من الشركات على تحويل التعهدات النظرية إلى أنظمة فعالة تحمي المستخدمين دون أن تقيد الاستخدام المشروع للتكنولوجيا، وحتى ذلك الحين، يبدو أن إيقاف الوصول المؤقت هو الخيار الأكثر أمانًا في نظر ميتا.

المصدر: بوابة الوفد