جدل واسع حول تطبيق Grok بعد كشف إنتاج ملايين الصور غير الأخلاقية

أثارت منصة Grok التابعة لشركة xAI موجة كبيرة من الجدل بعد أن كشف تقرير حديث لمنظمة Center for Countering Digital Hate (CCDH) عن إنتاج التطبيق لحوالي 3 ملايين صورة جنسية خلال فترة قصيرة لم تتجاوز 11 يوماً، من بينها حوالي 23 ألف صورة لأطفال. 

التقرير سلط الضوء على حجم المشكلة، حيث تشير الأرقام إلى أن التطبيق أنتج صورة جنسية كل 41 ثانية تقريباً ضمن هذه الفترة، بمعدل 190 صورة في الدقيقة الواحدة.

ويعد هذا الكشف صادماً بالنظر إلى أن الصور المنتجة لم تقتصر على إنشاء نسخ جنسية خيالية فحسب، بل شملت تحرير صور حقيقية لأشخاص دون موافقتهم. من بين هؤلاء المشاهير الذين وردت صور لهم على التطبيق: سليانا جوميز، تايلور سويفت، بيلي إيليش، آريانا غراندي، نكي ميناج، كريستينا هندريكس، ميلي بوبي براون، وكمالا هاريس. 

كما تضمنت الحالات التي رصدها التقرير أطفالاً في صور تم تعديلها رقمياً لتظهرهم بملابس شبه عارية، وهو ما أثار تحذيرات واسعة من قبل منظمات حماية الطفل والمجموعات النسائية.

التقرير الذي استند إلى عينة عشوائية من 20 ألف صورة تم إنتاجها بين 29 ديسمبر و9 يناير، أكد أن الصور تشمل تمثيلات فوتوغرافية دقيقة لأشخاص في أوضاع أو ملابس مثيرة، مثل البيكيني الشفاف أو أزياء تكشف الجسم بشكل واضح.

 كما أوضح التقرير أن التطبيق لم يفرق بين الصور المأخوذة من صور فعلية للأشخاص وبين تلك المولدة بالكامل من نصوص وصفية.

رداً على الأزمة، قامت منصة X في 9 يناير بتقييد إمكانية Grok لتحرير الصور الحقيقية لتصبح متاحة للمستخدمين المدفوعين فقط، ثم في 14 يناير تم تقييد الميزة بالكامل لمنع تعديل صور الأشخاص الحقيقية. 

ومع ذلك، يظل تطبيق Grok المستقل على متاجر Apple وGoogle متاحاً للتحميل، بالرغم من سياسات المتجرين التي تحظر صراحة التطبيقات التي تنتج محتوى جنسي غير consensual.

حتى الآن، لم تصدر Apple أو Google أي بيانات رسمية بشأن إزالة التطبيق، ولم ترد على طلبات التعليق من وسائل الإعلام، رغم الضغط من 28 مجموعة نسائية ومنظمات حقوقية أخرى دعت إلى حظر التطبيق بشكل كامل. 

ويشير ذلك إلى استمرار انتشار الصور الرقمية المثيرة للجدل، حتى بعد القيود المفروضة على منصة X نفسها، مع بقاء نسبة كبيرة من الصور الموجهة للأطفال متاحة عبر روابط مباشرة.

هذه القضية تطرح تساؤلات كبيرة حول مسؤولية شركات التقنية الكبرى في مراقبة التطبيقات القائمة على الذكاء الاصطناعي، خصوصاً تلك التي تمس خصوصية الأفراد أو تعرض الأطفال للمحتوى الجنسي. 

كما تشير إلى التحدي الكبير الذي تواجهه المنصات في التحكم بالمحتوى الذي يتم إنشاؤه تلقائياً بواسطة الذكاء الاصطناعي، حيث يمكن أن يتجاوز قدرة الرقابة التقليدية بسهولة.

تقرير CCDH أضاف أن التطبيقات التي تعدل الصور رقمياً لتنتج محتوى غير لائق لم تقتصر على Grok فقط، ولكن الأخيرة تعتبر الأكثر انتشاراً والأكثر قدرة على الوصول إلى الجمهور الكبير عبر متاجر التطبيقات، هذه الحوادث تؤكد الحاجة إلى تشريعات أكثر صرامة وتنظيم أفضل للذكاء الاصطناعي لحماية الأفراد، خصوصاً الأطفال، من استغلال تقنيات الصور والتعديل الرقمي لأغراض غير قانونية.

في النهاية، تبقى قضية Grok مثالاً صارخاً على كيفية تقاطع الذكاء الاصطناعي مع القضايا الأخلاقية والاجتماعية، وتطرح تحدياً أمام المنصات الكبرى، الحكومات، والمنظمات الحقوقية لوضع حدود واضحة لاستخدام هذه التقنيات، وضمان عدم استغلالها في إنتاج محتوى يضر بالأفراد أو المجتمعات.

المصدر: بوابة الوفد