ميتا تفرض ضوابط جديدة لحماية المراهقين من روبوتات الذكاء الاصطناعي

في خطوة تهدف إلى معالجة الانتقادات الواسعة التي طالتها مؤخرًا، أعلنت شركة ميتا عن تطوير أدوات إشرافية جديدة تمنح الآباء سيطرة أكبر على تفاعل أبنائهم المراهقين مع روبوتات الدردشة الذكية على منصات الشركة، مثل إنستغرام وفيسبوك. الخطوة تأتي ضمن خطة ميتا لتعزيز الأمان الرقمي وحماية الفئات الأصغر سنًا من التفاعلات غير المناسبة التي قد تصدر عن أنظمة الذكاء الاصطناعي.

وبحسب المعلومات الصادرة عن الشركة، فإن هذه الأدوات ستتيح للآباء خيارين أساسيين: الأول يتمثل في منع أبنائهم من استخدام روبوتات الدردشة بشكل كامل، أما الثاني فيسمح بحظر شخصيات معينة فقط، مع الإبقاء على إمكانية التواصل مع الروبوت العام من ميتا. كما سيتمكن أولياء الأمور من الاطلاع على طبيعة المواضيع التي يناقشها المراهقون مع روبوتات الذكاء الاصطناعي، مما يعزز الشفافية والرقابة الأبوية.

وتخطط ميتا لطرح هذه الضوابط الجديدة في مطلع العام المقبل، لتبدأ أولاً باللغة الإنجليزية في كل من الولايات المتحدة والمملكة المتحدة وكندا وأستراليا، على أن تُوسع لاحقًا إلى مناطق أخرى. وأوضحت الشركة أن الواجهة النهائية لهذه الأدوات قد تختلف عن الصور التوضيحية الحالية، إذ لا تزال قيد التطوير.

هذه الخطوة تأتي بعد موجة انتقادات حادة واجهتها ميتا، على خلفية تسريب وثائق داخلية كشفت أن روبوتات المحادثة التابعة لها أجرت حوارات غير لائقة مع أطفال. إحدى المحادثات التي أثارت الجدل كانت بين روبوت محادثة وطفل يبلغ من العمر ثماني سنوات، حيث وجه الروبوت عبارات وُصفت بأنها "حسية وغير مناسبة". الحادثة أثارت غضب الرأي العام ودعت إلى تدخل قانوني عاجل، إذ طالب المدعون العامون في 44 ولاية أمريكية الشركات التكنولوجية الكبرى، ومن بينها ميتا، باتخاذ خطوات جادة لحماية الأطفال من "سلوكيات الذكاء الاصطناعي المفترسة".

لم يتوقف الجدل عند هذا الحد، إذ أعلنت اللجنة الفرعية للجريمة ومكافحة الإرهاب في مجلس الشيوخ الأمريكي، برئاسة السيناتور جوش هاولي، فتح تحقيق رسمي مع ميتا للوقوف على مدى التزامها بمعايير الأمان الرقمي للأطفال والمراهقين.

وفي محاولة لاحتواء الأزمة، سارعت ميتا إلى إعادة تدريب أنظمتها الذكية وإدخال تحسينات جوهرية على خوارزميات المحادثة الخاصة بها. وأكدت الشركة أنها أضافت طبقات جديدة من الحماية تمنع المستخدمين الأصغر سنًا من التفاعل مع الشخصيات التي يصنعها المستخدمون الآخرون، والتي قد تنخرط في أحاديث غير ملائمة.

كما طبقت ميتا نظام تصنيف للمحتوى يشبه تصنيفات الأفلام الأمريكية، بحيث تُقدم ردود روبوتات الدردشة للمراهقين بما يتوافق مع فئة PG-13، أي ضمن نطاق موضوعات آمنة ومناسبة للفئة العمرية الصغيرة. وأشارت الشركة إلى أنها قلصت عدد الشخصيات المتاحة للمراهقين لتشمل فقط تلك التي تركز على مواضيع تعليمية أو ترفيهية بسيطة، مثل تطوير المهارات الدراسية أو الاهتمامات العامة.

ويرى مراقبون أن هذه الخطوة تعكس تحولًا في سياسة ميتا تجاه الذكاء الاصطناعي، إذ لم تعد الشركة تركز فقط على توسيع قدرات روبوتاتها، بل باتت تولي أهمية متزايدة لمفاهيم الأمان والثقة الرقمية. غير أن البعض يعتقد أن الإجراءات الحالية قد لا تكون كافية، خاصة في ظل النمو السريع لتقنيات المحادثة الذكية التي ما زالت تواجه تحديات في فهم السياق الإنساني والتعامل بحذر مع الفئات الحساسة مثل الأطفال.

وفي النهاية، يبقى السؤال الأبرز: هل تنجح ميتا في تحقيق التوازن بين حرية التفاعل مع روبوتات الذكاء الاصطناعي وحماية المراهقين من مخاطرها المحتملة؟ أم أن الشركة ستجد نفسها مرة أخرى أمام أزمة جديدة تعصف بثقة المستخدمين في منتجاتها؟

المصدر: بوابة الوفد