الذكاء الاصطناعي لرصد تطبيقات تستغل الأطفال
تاريخ النشر: 11th, August 2023 GMT
الجمعة, 11 أغسطس 2023 11:35 ص
متابعة/ المركز الخبري الوطني
بنى فريق من الباحثين موقعاً يسمى “آب دينجر بروجكت” يستند إلى الذكاء الاصطناعي، من أجل حماية الأطفال من الاستغلال أثناء استخدام التطبيقات.
ويحلّل “آب دينجر” تقييمات المستخدمين حول المتحرشين الجنسيين، ويوفر تقييمات أمان للتطبيقات ذات المراجعات السلبية، ويسرد المراجعات التي تشير إلى الاعتداء الجنسي.
وعلى مدار العامين الماضيين، سعى عالِم الكمبيوتر في جامعة ماساتشوستس أمهيرست بريان ليفين إلى مساعدة الآباء من خلال تصميم نموذج حسابي يقيّم آراء العملاء حول التطبيقات الاجتماعية.
وقال ليفين لصحيفة “نيويورك تايمز”: “هناك مراجعات تتحدث عن نوع السلوك الخطير الذي يحدث، لكن هذه المراجعات تغرق، ولا يمكن العثور عليها”.
ويستخدم مفترسو الأطفال التطبيقات والخدمات عبر الإنترنت لجمع الصور الإباحية، ويجبرون أطفالاً ومراهقين على إرسال صور عارية ثم ابتزازهم مقابل المال أو المزيد من الصور.
وأشار ليفين إلى أنه نظراً لأن متجري تطبيقات “آبل” و”غوغل” لا يوفران عمليات بحث باستخدام الكلمات الرئيسية، فقد يكون من الصعب على الآباء العثور على تحذيرات بشأن السلوك الجنسي غير اللائق.
ويتصوّر العالِم “آب دينجر بروجكت” كمكمّل للخدمات الأخرى التي تفحص مدى ملاءمة المنتجات للأطفال، من خلال تحديد التطبيقات التي لا تفعل ما يكفي لحماية المستخدمين.
والمشروع مجاني، ولا يخطط ليفين للتربح منه، لكنه يشجّع التبرعات لجامعة ماساتشوستس لتعويض تكاليف تكبدتها.
وحقّق ليفين وعشرات من علماء الكمبيوتر في عدد المراجعات التي حذّرت من الاعتداء الجنسي على الأطفال، عبر أكثر من 550 تطبيقاً للشبكات الاجتماعية تعرضها متاجر “آبل” و”غوغل”.
المصدر: المركز الخبري الوطني
إقرأ أيضاً:
خلال محاكمة.. الذكاء الاصطناعي يحيل إلى مرجع غير موجود
في محاكمة بين "أنثروبيك" للذكاء الاصطناعي وأصحاب حقوق ملكية فكرية، تضمنت مذكرة قضائية للدفاع عن الشركة الناشئة إشارة إلى مرجع وهمي لا وجود له.
بدأ الذكاء الاصطناعي يغير تدريجيا طريقة العمل في المجال القضائي. فبينما تسهّل هذه الأداة البحث في السوابق القضائية، يجب أن تخضع مخرجاتها للمراقبة بسبب قدرتها على الهلوسة.
وقد برز هذا مؤخرًا في محاكمة بين شركة "أنثروبيك" للذكاء الاصطناعي وشركات موسيقية. في أكتوبر 2023، طلبت شركات موسيقى من القضاة الاتحاديين في ولاية كاليفورنيا حظر استخدام دليلها الموسيقي لتدريب نماذج الذكاء الاصطناعي الخاصة بشركة "أنثروبيك".
رفض القضاة هذا الطلب في مارس 2025، معتبرين أنه لا يوجد دليل على ضرر لا يمكن إصلاحه. بعد ذلك، رفع المدعون دعوى قضائية أخرى تتعلق بانتهاك حقوق الطبع والنشر. تكمن إحدى نقاط الخلاف الرئيسية في هذه القضية في فحص حجم العينة المتفاعلة مع أداة "كلود" للذكاء الاصطناعي التابعة لشركة "أنثروبيك"، لتحديد وتيرة إعادة إنتاج الذكاء الاصطناعي لكلمات الأغاني المحمية أو توليدها.
مرجع وهمي
قدمت أوليفيا تشين، عالمة البيانات في شركة "أنثروبيك"، مذكرة إلى المحكمة تُجادل فيها بأن عينة من مليون تفاعل مستخدم كافية لتقديم "معدل انتشار معقول" لظاهرة نادرة: مستخدمو الإنترنت يبحثون عن كلمات الأغاني. وقدّرت أن هذه الحالة لا تُمثل سوى 0.01% من التفاعلات. وفي شهادتها، استشهدت بمقال أكاديمي نُشر في مجلة "الإحصائي الأميركي" تبيّن لاحقا أنه غير موجود.
طلب المدعون من المحكمة استدعاء أوليفيا تشين ورفض أقوالها بسبب الإحالة إلى هذا المراجع الزائف. ومع ذلك، منحت المحكمة شركة "أنثروبيك" وقتًا للتحقيق. وقد وصف محامي الشركة الناشئة الحادثة بأنها "خطأ بسيط في الاستشهاد"، وأقرّ بأن أداة "كلود" للذكاء الاصطناعي استُخدمت "لتنسيق ثلاثة مراجع ببليوغرافية على الأقل بشكل صحيح". وفي هذا السياق، اخترع الذكاء الاصطناعي مقالاً وهمياً، مع مؤلفين خاطئين لم يعملوا معًا قط.
تجنب أخطاء الذكاء الاصطناعي
تُسلّط هذه الحادثة الضوء على الانتشار المُقلق للأخطاء الناتجة عن الذكاء الاصطناعي في الإجراءات القانونية، وهي ظاهرة متنامية تُعرّض الشركات لمخاطر جسيمة، لا سيما عندما يعتمد محاموها على هذه الأدوات لجمع المعلومات وصياغة الوثائق القانونية.
يقول برايان جاكسون، مدير الأبحاث في مجموعة Info-Tech Research Group "خلق استخدام الذكاء الاصطناعي نوعًا من الكسل الذي أصبح مصدر قلق في المجال القانوني". ويضيف: "لا ينبغي استخدام أدوات الذكاء الاصطناعي كحل شامل لإنتاج الوثائق اللازمة للملفات القضائية".
إجلاء جوي عاجل ينقذ حاجًا عراقيًا من أزمة قلبية حادة