دراسة مقلقة تكشف تدريب ذكاء اصطناعي على صور الاعتداء الجنسي على الأطفال!
تاريخ النشر: 25th, December 2023 GMT
كشفت دراسة جديدة أن آلاف صور الاعتداء الجنسي على الأطفال مخبأة داخل مؤسسة شهيرة لمولدات صور الذكاء الاصطناعي.
وعثر مرصد ستانفورد للإنترنت على أكثر من 3200 صورة للاعتداء الجنسي على الأطفال في قاعدة بيانات الذكاء الاصطناعي العملاقة LAION، وهو فهرس للصور والتسميات التوضيحية عبر الإنترنت استُخدم لتدريب صنّاع صور الذكاء الاصطناعي مثل Stable Diffusion.
وعملت مجموعة المراقبة مع المركز الكندي لحماية الطفل وغيره من الجمعيات الخيرية المناهضة للإساءة، لتحديد المواد غير القانونية والإبلاغ عن روابط الصور الأصلية إلى جهات إنفاذ القانون. وتم التأكد من أن أكثر من 1000 صورة من الصور المشتبه بها تشمل مواد اعتداء جنسي على الأطفال.
وكتب الباحثون: "وجدنا أن امتلاك مجموعة بيانات LAION-5B المأهولة حتى أواخر عام 2023، يعني حيازة آلاف الصور غير القانونية".
وعشية إصدار تقرير مرصد ستانفورد للإنترنت يوم الأربعاء، قالت LAION إنها أزالت مجموعات البيانات الخاصة بها مؤقتا.
وقالت LAION، التي تمثل الشبكة المفتوحة للذكاء الاصطناعي واسعة النطاق غير الربحية، في بيان لها: "إن لديها سياسة عدم التسامح مطلقا مع المحتوى غير القانوني، وفي ظل الحذر الشديد، قمنا بإزالة مجموعات بيانات LAION للتأكد من أنها آمنة قبل إعادة نشرها".
إقرأ المزيد
وفي حين أن الصور لا تمثل سوى جزء صغير من مؤشر LAION الذي يبلغ حوالي 5.8 مليار صورة، تقول مجموعة ستانفورد إنها ربما تؤثر على قدرة أدوات الذكاء الاصطناعي على توليد مخرجات ضارة وتعزيز الإساءة السابقة للضحايا الحقيقيين.
ويقول الباحثون إن هذه الصور نفسها جعلت من السهل على أنظمة الذكاء الاصطناعي إنتاج صور واقعية وصريحة لأطفال مزيفين، بالإضافة إلى تحويل صور وسائل التواصل الاجتماعي لمراهقين حقيقيين يرتدون ملابس كاملة، إلى عراة، الأمر الذي أثار قلق المدارس وجهات إنفاذ القانون في جميع أنحاء العالم.
وحتى وقت قريب، اعتقد الباحثون في مجال مكافحة إساءة الاستخدام، أن الطريقة الوحيدة التي تنتج بها بعض أدوات الذكاء الاصطناعي غير الخاضعة للرقابة صورا مسيئة للأطفال، هي من خلال الجمع بين ما تعلمته من فئتين منفصلتين من الصور عبر الإنترنت: المواد الإباحية للبالغين والصور الحميدة للأطفال.
وقال ديفيد ثيل، كبير خبراء التكنولوجيا في مرصد ستانفورد للإنترنت، والذي كتب التقرير، إن هذه مشكلة ليست سهلة الإصلاح، وتعود جذورها إلى العديد من مشاريع الذكاء الاصطناعي التوليدية التي "تم طرحها بشكل فعال في السوق" وإتاحتها على نطاق واسع، لأن هذا المجال تنافسي للغاية.
يذكر أن LAION من بنات أفكار الباحث والمعلم الألماني، كريستوف شومان، الذي قال في وقت سابق من هذا العام إن جزءا من السبب وراء جعل قاعدة البيانات المرئية الضخمة هذه متاحة للجمهور، هو ضمان عدم التحكم في مستقبل تطوير الذكاء الاصطناعي من قبل شركات قوية.
المصدر: الغارديان
المصدر: RT Arabic
كلمات دلالية: اختراعات بحوث ذكاء اصطناعي الذکاء الاصطناعی على الأطفال
إقرأ أيضاً:
صلاح نجم يكتب العنف ضد الأطفال " أبشع الجرائم الأنسانيه "
براءة تُغتال عندما يصبح الطفل ضحية مجرم بلا ضمير”
الإساءة أو انتهاك أو سوء معاملة الأطفال أو إيذاء الأطفال
أو الاعتداء على الأطفال أي اعتداء جسدي، أو جنسي،
أو سوء معاملة، أو إهمال يتعرض له
له الطفل وللأسف الشديد زداد في الآونة الأخيرة حوادث الاعتداء على الأطفال، وهي جرائم لا تهدد طفولة فرد فقط، بل تهدم جزءًا من أمن المجتمع كله. فالطفل الذي يُفترض أن يعيش في أمان، يجد نفسه ضحية لأشخاص تجردوا من الإنسانية، مستغلين براءته وضعفه.
ما يجعل هذه الجريمة أكثر قسوة أنها تحدث غالبًا من أشخاص قريبين من الطفل، ممن يملكون ثقة الأسرة أو نفوذًا عليه. وهنا تبرز أهمية وعي الأهل، فالحماية تبدأ من البيت: متابعة سلوك الأطفال، تعليمهم حدود أجسادهم، وتشجيعهم
على الكلام دون خوف أو إحراج.
الدولة بدورها تلعب دورًا مهمًا عبر تشديد العقوبات، وتوفير خطوط ساخنة للإبلاغ، ودعم الضحايا نفسيًا ليتمكنوا من تجاوز الصدمة. أما المجتمع، فعليه كسر حاجز الصمت وعدم التستر على أي متحرش مهما كان موقعه، لأن السكوت مشاركة
فى الجريمة اغتصاب الأطفال ليس خبرًا عابرًا، بل مأساة تستحق المواجهة. وحماية الصغار ليست مسؤولية الأسرة وحدها، بل مسؤولية مجتمع كامل يرفض أن تُسرق طفولتهم أو تُدفن براءتهم تحت خوف وصمت
الظهور الأول لـ هدير عبد الرازق وطليقها أوتاكا أمام المحكمة