ميتا تشدد ضوابط الذكاء الاصطناعي لحماية المراهقين من المحتوى الضار

في خطوة جديدة لمواجهة الانتقادات المتزايدة، أعلنت شركة ميتا أنها بدأت إعادة تدريب أنظمة الذكاء الاصطناعي الخاصة بها مع إضافة طبقات حماية إضافية تستهدف حماية المراهقين من التورط في محادثات ضارة مع روبوتات الدردشة.

 وتشمل هذه الإجراءات منع النقاش حول مواضيع حساسة مثل إيذاء النفس، والانتحار، واضطرابات الأكل، إلى جانب تقييد وصول القُصّر إلى بعض الشخصيات الافتراضية التي قد يُنشئها المستخدمون وتثير مخاطر محتملة.

ة

هذه القرارات جاءت بعد سلسلة من التقارير التي سلطت الضوء على ثغرات خطيرة في طريقة تفاعل روبوتات ميتا مع المراهقين. ففي وقت سابق، كشفت وكالة رويترز عن وثيقة داخلية لدى الشركة تتضمن إشارات إلى إمكانية السماح بمحادثات "حسية" مع القاصرين، وهو ما اعتبره الخبراء أمرًا صادمًا. ميتا سارعت لاحقًا إلى نفي هذه الصياغة ووصفتها بأنها خاطئة ومخالفة لسياساتها.

ولم يقف الجدل عند هذا الحد، إذ نشرت صحيفة واشنطن بوست دراسة حديثة توصلت إلى أن أنظمة ميتا قادرة على "إرشاد المراهقين" نحو سلوكيات خطيرة مثل الانتحار واضطرابات الأكل. هذه النتائج أثارت موجة قلق واسعة، دفعت الشركة إلى مراجعة أنظمتها بشكل عاجل واتخاذ تدابير أكثر صرامة.

ستيفاني أوتواي، المتحدثة باسم الشركة، أكدت لموقع إنجادجيت أن ميتا كانت حريصة منذ البداية على وضع وسائل حماية للمراهقين ضمن أدوات الذكاء الاصطناعي الخاصة بها. وقالت: "لقد صممنا أنظمتنا للاستجابة بأمان لطلبات مرتبطة بمواضيع مثل إيذاء النفس والانتحار، لكن مع توسع استخدام هذه الأدوات، نواصل التعلم حول كيفية تفاعل الشباب معها، ونضيف إجراءات إضافية لتعزيز الأمان".

وتابعت أوتواي موضحة أن التغييرات الحالية تتضمن تدريب الخوارزميات على الامتناع عن التفاعل مع القاصرين في هذه المواضيع، والاكتفاء بتوجيههم إلى مصادر دعم متخصصة. كما سيتم تقييد وصول المراهقين إلى مجموعة محدودة من شخصيات الذكاء الاصطناعي التي تعتبر أكثر أمانًا، على أن يجري تقييم التجربة بمرور الوقت.

الميزة الجديدة توصف بأنها "احترازية ومؤقتة"، ما يعني أن الشركة ما زالت تبحث عن حلول طويلة المدى للتعامل مع هذه المعضلة. ووفقًا لتصريحات أوتواي، فإن هذه التحديثات بدأ تنفيذها بالفعل، وسيتم تعميمها على جميع المستخدمين المراهقين في الدول الناطقة بالإنجليزية خلال الأسابيع المقبلة. وتهدف ميتا من خلال هذه الإجراءات إلى طمأنة الأهالي والمجتمع بأن تجربة المراهقين مع الذكاء الاصطناعي ستكون آمنة ومناسبة لأعمارهم.

إلى جانب الضغوط الإعلامية، تواجه ميتا أيضًا ضغوطًا سياسية وقانونية. فقد صرّح السيناتور الأمريكي جوش هاولي بأنه يعتزم فتح تحقيق رسمي في طريقة تعامل الشركة مع هذه التفاعلات المثيرة للجدل. 

كما أعلن المدعي العام لولاية تكساس، كين باكستون، أنه يدرس التحقيق مع ميتا بتهمة تضليل المراهقين فيما يتعلق بالتأثيرات النفسية لروبوتات الدردشة. هذه التحركات تعكس تنامي الرقابة الرسمية على شركات التكنولوجيا الكبرى، خاصة في القضايا المتعلقة بالصحة العقلية للأطفال والمراهقين.

 مستقبل الذكاء الاصطناعي في ميتا

تسعى ميتا إلى الحفاظ على مكانتها كلاعب رئيسي في مجال الذكاء الاصطناعي، لكنها تدرك في الوقت نفسه أن سمعتها على المحك إذا لم تتمكن من معالجة هذه المخاطر بجدية. فالمنافسة في السوق تتزايد، والضغوط الاجتماعية والسياسية تتصاعد، ما يجعل تطوير أنظمة أكثر أمانًا ضرورة لا تحتمل التأجيل.

في النهاية، يمكن القول إن الخطوة الأخيرة من ميتا تمثل محاولة لاستعادة الثقة المفقودة مع المجتمع، لكنها تفتح أيضًا الباب أمام نقاش أوسع حول كيفية موازنة الابتكار التكنولوجي مع مسؤولية حماية الفئات الأكثر هشاشة، وعلى رأسها المراهقون.

المصدر: بوابة الوفد