جروك بقفص الاتهام.. التحقيق في صور غير أخلاقية مولدة بالذكاء الاصطناعي

لم تهدأ العاصفة حول منصة إكس منذ أن كشفت تقارير موثقة عن قدرة روبوت الدردشة جروك على توليد صور جنسية صريحة لأشخاص حقيقيين دون موافقتهم، بينهم أطفال، واليوم تجد الشركة نفسها أمام تحقيق أوروبي جديد قد يكون الأثقل في تداعياته القانونية حتى الآن.

أعلنت هيئة حماية البيانات الإيرلندية عن فتح تحقيق رسمي في إكس، يتمحور حول الصور الحميمة الضارة التي يولدها الذكاء الاصطناعي، وطريقة معالجة الشركة لبيانات المستخدمين الشخصية في الاتحاد الأوروبي والمنطقة الاقتصادية الأوروبية، وهو ما يشمل صراحةً بيانات القاصرين.

الأرقام التي كشفتها منظمة مناهضة الكراهية الرقمية البريطانية صادمة بكل المقاييس، خلال أحد عشر يوماً فقط، بين التاسع والعشرين من ديسمبر والتاسع من يناير، رصدت المنظمة توليد جروك ما يقارب ثلاثة ملايين صورة جنسية، من بينها نحو ثلاثة وعشرين ألف صورة تمس أطفالاً، وهي أرقام لا يمكن تجاوزها أو التعامل معها باعتبارها مجرد إشكالية تقنية قابلة للتعديل.

ماليزيا ترفع الحظر عن «جروك» بعد وعود X بتشديد الضوابط الأمنية الاتحاد الأوروبي يحقق مع إكس وجروك بسبب إنتاج صور مُخلة للأطفال

المحقق الرئيسي في هذه القضية هو جراهام دويل، نائب مفوض هيئة حماية البيانات الإيرلندية، الذي أشار إلى أن الهيئة بدأت التواصل مع إكس فور ظهور التقارير الإعلامية الأولى قبل أسابيع.

 وأوضح أن التحقيق سيفحص مدى التزام الشركة بالتزاماتها الجوهرية بموجب اللائحة الأوروبية لحماية البيانات، المعروفة بـ GDPR، بوصفها الجهة الرقابية الرائدة على إكس في الاتحاد الأوروبي.

ما يمنح هذا التحقيق ثقلاً استثنائياً هو أنه يأتي في سياق أوروبي أشمل. ففي يناير الماضي، فتحت المفوضية الأوروبية بدورها تحقيقاً منفصلاً في إكس للنظر في مدى انتهاكها لقانون الخدمات الرقمية، وهو قانون أوروبي متشدد يلزم المنصات الكبرى بتقييم المخاطر الرقمية والحد منها، بما فيها انتشار المحتوى غير القانوني كالصور الجنسية المولدة دون رضا أصحابها، مجتمعةً، يشكل هذان التحقيقان ضغطاً قانونياً غير مسبوق على المنصة في القارة الأوروبية.

في المقابل، حاولت إكس احتواء الأزمة، ففي منتصف يناير أعلنت الشركة أنها اتخذت إجراءات تقنية لمنع جروك من تعديل صور الأشخاص الحقيقيين بإضافة ملابس كاشفة، لكن هذا الادعاء اصطدم بالواقع بشكل محرج، إذ كشف صحفي خلال هذا الشهر أن الأداة لا تزال قادرة على وضعه في ملابس فاضحة، بل وصل الأمر إلى إضافة أعضاء تناسلية ظاهرة لصورته، هذا التناقض الصارخ بين ما أعلنته الشركة وما رصده الواقع يزيد من صعوبة موقفها أمام الجهات الرقابية.

التحقيق الإيرلندي ليس مجرد إجراء بيروقراطي، فبما أن إكس مسجلة قانونياً في إيرلندا، فإن هيئة حماية البيانات الإيرلندية تملك صلاحية فرض عقوبات تطال الشركة في كامل دول الاتحاد الأوروبي. 

وفي حال ثبتت المخالفات، قد تواجه إكس غرامات مالية ضخمة، فضلاً عن إلزامها بإجراء تغييرات جذرية على آلية عمل جروك داخل الفضاء الأوروبي.

القضية تتجاوز حدود النقاش التقني حول حدود الذكاء الاصطناعي وحرية التعبير، فحين يتعلق الأمر بأطفال تُنتهك صورهم وكرامتهم بضغطة زر، يصبح الحديث عن مسؤولية أخلاقية وقانونية لا تقبل المساومة.

المصدر: بوابة الوفد