خوارزميات فيسبوك وإنستجرام تسهل الاعتداء على الأطفال

في ديسمبر الماضي، رفعت ولاية نيو مكسيكو دعوى قضائية ضد شركة ميتا لفشلها في حماية الأطفال، زاعمة أن خوارزميات فيسبوك وإنستجرام أوصت بمحتوى جنسي للقاصرين. والآن، تم الكشف عن عرض تقديمي داخلي غير منقح، حيث يقدر موظفو الشركة أن 100 ألف مستخدم من الأطفال يتعرضون للمضايقات يوميًا، حسبما ذكرت صحيفة وول ستريت جورنال.

وفقًا لوثيقة داخلية لعام 2021، تم اختيار خوارزمية "أشخاص قد تعرفهم" (PMYK) الخاصة بفيسبوك باعتبارها الرابط الأساسي بين الأطفال والحيوانات المفترسة. عندما أبلغ الموظفون المديرين التنفيذيين في شركة Meta بهذه النتائج، رفضوا التوصيات بإعادة تصميم الخوارزمية للتوقف عن التوصية بالبالغين للقاصرين.

وكانت هذه الميزة مسؤولة عن 75 بالمائة من جميع الاتصالات غير المناسبة بين البالغين والقاصرين، وفقًا لأحد الموظفين. "كيف بحق السماء لم نقم بإيقاف تشغيل PYMK بين البالغين والأطفال؟" قال موظف آخر. وأضاف آخر: "إنه أمر مزعج حقًا".

كانت المشكلات خبيثة بشكل خاص على Instagram، وفقًا لمذكرة داخلية لعام 2020، مع انتشار "الحديث الجنسي" على تلك المنصة 38 مرة أكثر من Facebook Messenger في الولايات المتحدة. في إحدى الحالات، أفاد أحد المسؤولين التنفيذيين في شركة Apple أن طفله البالغ من العمر 12 عامًا قد تم استدراجه عبر موقع Instagram. قال أحد الموظفين المكلفين بمعالجة المشكلة: "هذا هو الشيء الذي يثير غضب شركة Apple إلى حد التهديد بإزالتنا من متجر التطبيقات".

تدعي نيو مكسيكو أن ميتا فشلت في معالجة الاستغلال واسع النطاق على منصتها، خاصة فيما يتعلق بخوارزميات التوصية. أنشأ محققو الولاية في الأصل حسابات زائفة للأطفال، وقدموا تواريخ ميلاد للبالغين، حيث غالبًا ما يخطئ الأطفال في كتابة أعمارهم للوصول إلى الخدمات عبر الإنترنت التي ليس من المفترض أن يفعلوها. بعد ذلك، أشاروا ضمنًا إلى أن الحسابات كانت تستخدم من قبل الأطفال، حيث نشر أحدهم عن فقدان أحد أسنان الطفل ويبدأ في الصف السابع. وزعمت الدعوى، من بين أمور أخرى، أن الحسابات أرسلت صورًا جنسية للأطفال وعروضًا للدفع مقابل ممارسة الجنس.

وتزعم الولاية أيضًا أن قادة ميتا لم يتخذوا إجراءات للحد من افتراس البالغين للقاصرين حتى أواخر عام 2022، وما زالوا لم يصلوا إلى حد الإجراء الصارم الذي أوصى به موظفو السلامة. وبدلاً من ذلك، حاولت فقط حظر الاقتراحات للبالغين الذين أظهروا سابقًا سلوكًا مشبوهًا تجاه الأطفال. ومع ذلك، وفقًا لدراسة ميتا، فإن 99 بالمائة من الحسابات التي تم تعطيلها بسبب استمالة الأطفال فشلت في تحديد أعمارهم.

قدمت Meta مؤخرًا إجراءات للمستخدمين المراهقين على Instagram وFacebook، بما في ذلك منع غير المتابعين من مراسلتهم وحظر التعليقات المسيئة. علاوة على شكوى نيو مكسيكو، تواجه ميتا دعاوى قضائية من 41 ولاية تشكو من أنها تضر بالصحة العقلية لمستخدميها الأصغر سنا. هناك شكوى أخرى تم الكشف عنها مؤخرًا قدمتها 33 ولاية تزعم أن Meta "تطمع وتلاحق" المستخدمين الذين تقل أعمارهم عن 13 عامًا وكانت غير صادقة بشأن كيفية تعاملها مع حسابات المستخدمين القاصرين عندما يتم اكتشافهم.

المصدر: بوابة الوفد