تطبيقات Meta لا تزال تروج لمحتوى افتراس الأطفال
تاريخ النشر: 2nd, December 2023 GMT
فشلت شركة Meta في إيقاف شبكات واسعة من الأشخاص الذين يستخدمون منصتها للترويج لمحتوى إساءة معاملة الأطفال، حسبما ذكر تقرير جديد نشرته صحيفة وول ستريت جورنال، مستشهدة بالعديد من الأمثلة المزعجة لاستغلال الأطفال التي كشفت عنها على Facebook وInstagram. التقرير، الذي يأتي في الوقت الذي تواجه فيه شركة ميتا ضغوطًا متجددة بشأن تعاملها مع سلامة الأطفال، أثار تدقيقًا جديدًا من قبل الجهات التنظيمية في الاتحاد الأوروبي.
وفي التقرير، قامت صحيفة وول ستريت جورنال بتفصيل الاختبارات التي أجرتها مع المركز الكندي لحماية الطفل والتي توضح كيف يمكن لتوصيات ميتا أن تقترح مجموعات فيسبوك وعلامات التصنيف على إنستغرام والحسابات الأخرى التي تُستخدم للترويج ومشاركة مواد استغلال الأطفال. وفقًا لاختباراتهم، كانت ميتا بطيئة في الاستجابة للتقارير المتعلقة بمثل هذا المحتوى، وغالبًا ما سهلت الخوارزميات الخاصة بها على الأشخاص التواصل مع محتوى الإساءة وغيرهم من المهتمين به.
على سبيل المثال، أخبر المركز الكندي لحماية الطفل الصحيفة أن "شبكة من حسابات إنستغرام التي تضم كل منها ما يصل إلى 10 ملايين متابع استمرت في بث مقاطع فيديو مباشرة عن الاعتداء الجنسي على الأطفال بعد أشهر من إبلاغ الشركة عنها". رفضت Meta في البداية اتخاذ إجراء بشأن تقرير مستخدم حول مجموعة فيسبوك عامة تسمى "زنا المحارم". تم القضاء على المجموعة في النهاية، جنبًا إلى جنب مع مجتمعات أخرى مماثلة.
وفي تحديث مطول على موقعها على الإنترنت، قالت ميتا إن "المفترسين هم مجرمون مصممون يختبرون دفاعات التطبيقات والمواقع الإلكترونية والمنصة"، وأنها قامت بتحسين العديد من أنظمتها الداخلية لتقييد "البالغين المشتبه بهم المحتملين". وقالت الشركة إنها "قامت بتوسيع القائمة الحالية للمصطلحات والعبارات والرموز التعبيرية المتعلقة بسلامة الأطفال لتتمكن أنظمتنا من العثور عليها" واستخدمت التعلم الآلي للكشف عن مصطلحات البحث الجديدة التي يمكن أن يستغلها المحتالون الأطفال.
وقالت الشركة إنها تستخدم التكنولوجيا لتحديد "البالغين المشتبه فيهم" لمنعهم من التواصل مع بعضهم البعض، بما في ذلك في مجموعات فيسبوك، ومن رؤية محتوى بعضهم البعض في التوصيات. وقالت ميتا أيضًا لصحيفة وول ستريت جورنال إنها "بدأت في تعطيل الحسابات الفردية التي تتجاوز حدًا معينًا من السلوك المشبوه".
تواجه الشبكة الاجتماعية رد فعل عنيفًا متزايدًا بشأن تعاملها مع سلامة الأطفال. كما ذكرت صحيفة وول ستريت جورنال مؤخرًا أن توصيات Instagram Reels تخدم محتوى يستهدف الأشخاص الذين "قد يكون لديهم اهتمامات شهوانية بالأطفال". وقد رفعت عشرات الولايات مؤخرًا دعوى قضائية ضد شركة ميتا بدعوى الإضرار بالصحة العقلية لمستخدميها الأصغر سنًا، وفشلها في إبقاء الأطفال الذين تقل أعمارهم عن 13 عامًا بعيدًا عن تطبيقاتها. لا شك أن مارك زوكربيرج سيواجه أسئلة مكثفة حول هذه الادعاءات الشهر المقبل عندما يظهر في جلسة استماع للجنة القضائية بمجلس الشيوخ تركز على سلامة الأطفال عبر الإنترنت. ومن المقرر أيضًا أن يشهد نظراؤه من TikTok وSnap وX وDiscord.
وفي الوقت نفسه، تواجه ميتا أيضًا ضغوطًا جديدة من الجهات التنظيمية في الخارج. يستخدم مسؤولو الاتحاد الأوروبي قانونًا جديدًا للتحقيق في تعامل الشركة مع مواد إساءة معاملة الأطفال، وذلك في أعقاب تقرير الصحيفة. وتم منح الشركة موعدًا نهائيًا في 22 ديسمبر لتسليم البيانات إلى الكتلة.
المصدر: بوابة الوفد
كلمات دلالية: وول ستریت جورنال
إقرأ أيضاً:
ميتا تستبدل البشر بالذكاء الاصطناعي في تقييم الخصوصية والمخاطر
في خطوة مثيرة للجدل، بدأت شركة "ميتا" بالتحول إلى الأتمتة في عمليات تقييم الخصوصية والمخاطر عبر منصاتها المختلفة، بما في ذلك إنستجرام وواتساب وفيسبوك، وفقا لوثائق داخلية كشفت عنها NPR.
واعتمدت شركة “ميتا” في السنوات الماضية على فرق بشرية متخصصة لمراجعة التحديثات وتقييم تأثيرها المحتمل على خصوصية المستخدمين، وحماية القصر، والحد من انتشار المعلومات المضللة والمحتوى السام، لكن الآن، تشير الوثائق إلى أن ما يصل إلى 90% من هذه المراجعات سيتم توليه بواسطة أنظمة ذكاء اصطناعي.
يعني هذا التغيير أن التحديثات الحاسمة في خوارزميات ميتا، وإدخال ميزات أمان جديدة، وتعديلات مشاركة المحتوى، ستتم الموافقة عليها بشكل شبه تلقائي دون المرور بنفس مستوى التدقيق البشري السابق.
في داخل ميتا، ينظر إلى الأتمتة كـ خطوة تعزز من سرعة تطوير وإطلاق المنتجات، لكن موظفين حاليين وسابقين في الشركة أعربوا عن قلقهم من أن هذه السرعة قد تأتي على حساب السلامة الرقمية والخصوصية.
وقال أحد التنفيذيين السابقين بالشركة، رفض الكشف عن هويته: "تسريع الإطلاق دون مراجعة دقيقة يزيد من احتمالات المخاطر، فالتأثيرات السلبية لتحديثات المنتجات ستكون أقل احتمالا للمنع قبل أن تتسبب في أضرار على أرض الواقع".
وفي بيان رسمي، أكدت ميتا أنها استثمرت مليارات الدولارات في حماية خصوصية المستخدمين، وأشارت إلى أن التغيير الجديد يهدف إلى تسريع اتخاذ القرار مع الإبقاء على "الخبرة البشرية" للتعامل مع القضايا المعقدة فقط. وبينت أن الأتمتة تطبق فقط على "القرارات منخفضة المخاطر".
لكن الوثائق المسربة تظهر أن ميتا تفكر أيضا في أتمتة المراجعات في مجالات أكثر حساسية، تشمل أمان الذكاء الاصطناعي، ومخاطر تتعلق بالشباب، بالإضافة إلى مراجعات تتعلق بـ"النزاهة"، مثل المحتوى العنيف والمعلومات الزائفة.
مخاوف من غياب الخبرةتشير إحدى الشرائح التوضيحية إلى أن الفرق المطورة للمنتجات ستحصل على قرار فوري من النظام الآلي بعد تعبئة استبيان تقني، وسيتعين على الفرق التأكد من أنها استوفت الشروط المحددة قبل الإطلاق.
في السابق، لم يكن من الممكن طرح أي ميزة جديدة قبل أن يوافق عليها مقيمو المخاطر البشريون، أما الآن، فالمهندسون ومديرو المنتجات هم من سيتخذون قراراتهم الخاصة بشأن تقييم المخاطر، باستثناء حالات نادرة يتم فيها طلب مراجعة بشرية بشكل استثنائي.
وحذر زفيكا كريجر، المدير السابق للابتكار المسؤول في ميتا، من هذه الخطوة قائلا: "معظم المهندسين ليسوا خبراء في الخصوصية، وهذا ليس محور تقييمهم الوظيفي. بعض المراجعات الذاتية تتحول في النهاية إلى مجرد إجراء شكلي يتجاهل مخاطر حقيقية".
وأضاف: "رغم أن تبسيط المراجعات قد يكون مفيدا، إلا أن المبالغة في الأتمتة ستؤثر حتما على جودة القرارات".
تشير الوثائق إلى أن المستخدمين في الاتحاد الأوروبي قد يكونون مستثنين من بعض هذه التغييرات، حيث ستبقى عملية اتخاذ القرار وإدارة البيانات تحت إشراف مقر الشركة في أيرلندا، التابع للقوانين الأوروبية، بما في ذلك قانون الخدمات الرقمية الذي يفرض رقابة صارمة على المنصات لحماية المستخدمين من المحتوى الضار.
تأتي التعديلات الجديدة ضمن توجه أوسع داخل ميتا لتسريع التحديثات وتوسيع حرية التعبير، وسط تقارير تشير إلى تقليص برامج التحقق من المعلومات وتخفيف سياسات خطاب الكراهية.
ويرى مراقبون أن هذه التحولات تمثل تفكيكا تدريجيا للضوابط الوقائية التي تبنتها ميتا على مدار السنوات الماضية بهدف تقليل إساءة استخدام منصاتها.
اقتراح أميركي يسمح لإيران بتخصيب اليورانيوم.. ولكن!