تحقيق يكشف انتشار تطبيقات تعرية بالذكاء الاصطناعي في متجري آبل وجوجل

كشف تحقيق حديث أجرته منظمة رقمية معنية بالشفافية التقنية تُعرف باسم Tech Transparency Project عن انتشار واسع لتطبيقات ذكاء اصطناعي تُستخدم في إنشاء صور عارية أو مُفبركة جنسيًا دون موافقة أصحابها، داخل كلٍ من متجر تطبيقات آبل ومتجر جوجل بلاي، في انتهاك واضح للسياسات المعلنة للشركتين بشأن المحتوى الجنسي وحماية الخصوصية.

التحقيق، الذي استند إلى مراجعة موسعة لمحتوى المتجرين، توصل إلى وجود 55 تطبيقًا من هذا النوع في متجر جوجل بلاي، مقابل 47 تطبيقًا في متجر آبل، هذه التطبيقات، التي تُعرف اصطلاحًا باسم nudify apps، تعتمد على تقنيات الذكاء الاصطناعي لتحويل صور أشخاص حقيقيين إلى صور ذات طابع جنسي أو لإظهارهم بملابس أقل أو بدون ملابس، دون علمهم أو موافقتهم، ما يفتح الباب أمام إساءة استخدام واسعة، خصوصًا في حالات الابتزاز والتشهير.

ولم يتوقف الأمر عند التطبيقات الصغيرة أو غير المعروفة، إذ أشار التقرير إلى أن المنصتين ما زالتا تتيحان الوصول إلى Grok، روبوت الدردشة التابع لشركة xAI المملوكة لإيلون ماسك، والذي يُعد من أشهر الأدوات القادرة على إنتاج صور مزيفة غير رضائية، بما في ذلك محتوى جنسي.

ميشيل كوبرسميث، المديرة التنفيذية للمنظمة غير الربحية التي تشرف على مشروع Tech Transparency Project، قالت إن آبل وجوجل من المفترض أن تخضعا التطبيقات المتاحة على متاجرهما لعمليات تدقيق صارمة قبل إتاحتها للمستخدمين.

 وأضافت أن السماح بوجود عشرات التطبيقات القادرة على تعرية الأشخاص رقميًا يجعل هذه المنصات بيئة خصبة للإساءة، خاصة عندما يكون الاستخدام سهلًا ولا يتطلب مهارات تقنية متقدمة.

ووفقًا لبيانات التحقيق، فقد تم تحميل التطبيقات التي شملها التقرير أكثر من 700 مليون مرة حول العالم، وحققت إيرادات تجاوزت 117 مليون دولار، وهو ما يعني أن آبل وجوجل حصلتا على نسبة من هذه الأرباح من خلال أنظمة الدفع داخل المتاجر، ما يثير تساؤلات إضافية حول مسؤولية الشركتين عن المحتوى الذي يدر عوائد مالية عليهما.

الأمر الأكثر إثارة للقلق، بحسب التقرير، أن عددًا من هذه التطبيقات مُصنف على أنه مناسب للمراهقين بل وحتى للأطفال، تطبيق DreamFace، على سبيل المثال، مُصنف في متجر جوجل بلاي كمناسب لمن هم في سن 13 عامًا فأكثر، بينما تشير تصنيفات متجر آبل إلى أنه مناسب لمن هم في سن 9 سنوات فأكثر، رغم طبيعة المحتوى الذي يمكن أن ينتجه.

في أعقاب نشر نتائج التحقيق، أصدرت الشركتان ردودًا متفاوتة، آبل أعلنت أنها أزالت 24 تطبيقًا من متجرها بعد مراجعة داخلية، وفقًا لتقرير نشرته شبكة CNBC، إلا أن هذا الرقم لا يغطي إجمالي التطبيقات التي رصدها الباحثون.

 من جانبها، قالت جوجل إنها علقت عددًا من التطبيقات المشار إليها في التقرير بسبب انتهاكها سياسات المتجر، لكنها امتنعت عن الإفصاح عن العدد الدقيق للتطبيقات التي تم حذفها.

ويأتي هذا الجدل في وقت حساس، بعد تقارير أخرى كشفت أن Grok قام خلال فترة قصيرة بإنتاج ملايين الصور ذات الطابع الجنسي، من بينها آلاف الصور التي تضمنت أطفالًا، وهو ما أثار موجة انتقادات واسعة بشأن غياب الضوابط الفعالة على أدوات الذكاء الاصطناعي التوليدي.

 ورغم خطورة هذه الادعاءات، لم تقدم الشركة ردًا واضحًا، واكتفت بإرسال رسائل آلية لعدد من الصحفيين تتهم فيها وسائل الإعلام بالكذب، بينما نفى إيلون ماسك علمه بوجود أي محتوى غير قانوني يتعلق بقُصّر.

في المقابل، نشر حساب السلامة الخاص بمنصة X بيانًا مقتضبًا أكد فيه أن أي مستخدم يستغل Grok لإنتاج محتوى غير قانوني سيتعرض للعقوبات نفسها المطبقة على من يرفع هذا المحتوى يدويًا. 

اللافت أن روبوت الدردشة نفسه أبدى اعتذارًا صريحًا عن إنشاء صور جنسية لقُصّر، في موقف بدا أكثر وضوحًا من ردود مسؤولي الشركة.

التحقيق يعيد فتح النقاش حول حدود مسؤولية متاجر التطبيقات الكبرى، ودور شركات التكنولوجيا في ضبط استخدام الذكاء الاصطناعي، خاصة عندما يتحول من أداة ابتكار إلى وسيلة لانتهاك الخصوصية والكرامة الإنسانية، وسط مطالب متزايدة بتشريعات أكثر صرامة وآليات رقابة حقيقية تحمي المستخدمين، لا سيما الأطفال، من هذه المخاطر الرقمية المتصاعدة.

المصدر: بوابة الوفد