هل تحد شركات الذكاء الاصطناعي من المواد الإباحية المزيفة
تاريخ النشر: 14th, September 2024 GMT
أصدر البيت الأبيض اليوم بيانًا يحدد الالتزامات التي قطعتها العديد من شركات الذكاء الاصطناعي للحد من إنشاء وتوزيع الاعتداء الجنسي القائم على الصور. وقد حددت الشركات المشاركة الخطوات التي تتخذها لمنع استخدام منصاتها لتوليد صور حميمة غير موافقة (NCII) للبالغين ومواد الاعتداء الجنسي على الأطفال (CSAM).
على وجه التحديد، قالت Adobe وAnthropic وCohere وCommon Crawl وMicrosoft وOpenAI إنها ستقوم بما يلي:
"الحصول على مجموعات البيانات الخاصة بها بشكل مسؤول وحمايتها من الاعتداء الجنسي القائم على الصور"
كما اتفق جميع المذكورين أعلاه باستثناء Common Crawl على أنهم سيقومون بما يلي:
"دمج حلقات التغذية الراجعة واستراتيجيات اختبار الإجهاد التكرارية في عمليات التطوير الخاصة بهم، للحماية من نماذج الذكاء الاصطناعي التي تنتج اعتداءً جنسيًا قائمًا على الصور"
و"إزالة الصور العارية من مجموعات بيانات تدريب الذكاء الاصطناعي" عند الاقتضاء.
إنه التزام طوعي، لذا فإن إعلان اليوم لا يخلق أي خطوات أو عواقب قابلة للتنفيذ جديدة للفشل في الوفاء بهذه الوعود. لكن لا يزال الأمر يستحق التصفيق للجهود المبذولة بحسن نية لمعالجة هذه المشكلة الخطيرة. إن الغيابات الملحوظة عن بيان البيت الأبيض اليوم هي Apple وAmazon وGoogle وMeta.
لقد قطعت العديد من شركات التكنولوجيا والذكاء الاصطناعي خطوات كبيرة لتسهيل الأمر على ضحايا NCII لوقف انتشار الصور ومقاطع الفيديو المزيفة بشكل منفصل عن هذا الجهد الفيدرالي. لقد دخلت StopNCII في شراكة مع العديد من الشركات من أجل اتباع نهج شامل لتنقية هذا المحتوى، بينما تطرح شركات أخرى أدوات خاصة للإبلاغ عن الاعتداء الجنسي القائم على الصور التي تم إنشاؤها بواسطة الذكاء الاصطناعي على منصاتها.
المصدر: بوابة الوفد
كلمات دلالية: الذکاء الاصطناعی الاعتداء الجنسی على الصور
إقرأ أيضاً:
شاهد: أحدث وسيلة للغش بواسطة قلم الذكاء الاصطناعي
ظهرت في الآونة الأخيرة مجموعة من المقاطع عبر منصات التواصل الاجتماعي المختلفة لأداة يستخدمها الطلاب للغش في الامتحانات، وهي أداة تشبه قلمًا يعمل كماسح ضوئي يقرأ النص المكتوب، ثم يقوم بالإجابة عليه في شاشة صغيرة.
ورغم تشكيك البعض في وجود هذه الأداة، فإنها تُعد من أحدث الابتكارات المعتمدة على نماذج الذكاء الاصطناعي، وتحديدًا على "شات جي بي تي" بوصفه الأشهر في هذا المجال.
يقوم القلم بنقل المعلومات الموجودة في الورقة أيًا كانت إلى نموذج الذكاء الاصطناعي المتصل به، لتظهر الإجابة أو المعلومات المتعلقة بهذا النص في الشاشة الصغيرة المرفقة بالأداة.
كما تملك الأداة مجموعة متنوعة من الاستخدامات التي تتعدى مجرد الغش في الامتحانات، إذ يمكن استخدامها للترجمة الفورية للنصوص الموجودة باللغات التي لا يتقنها المستخدم، وهو ما يعد الاستخدام الأشهر والأبرز للأداة حتى الآن.
ويمكن الاعتماد عليها أيضًا لقراءة المستندات الطبية الناتجة عن الفحوص المعملية، إذ يمكنها تفسير هذه النتائج وتبسيطها لغير الأطباء وذوي الخبرة الطبية.
وبشكل عام يمكن الاعتماد على هذا القلم في أي مهمة تحتاج لإدخال نصوص إلى نموذج الذكاء الاصطناعي، وهو ما يجعله خيارًا مثاليًا للعديد من المهام اليومية المختلفة.
إعلانيتوفر العديد من النماذج المعتمدة على هذا القلم، ويمكن الحصول عليه من مختلف مواقع التجارة الإلكترونية سواء كانت "علي إكسبريس" أو "أمازون" إلى جانب بعض المواقع المخصصة التي تبيعه.
مظاهرات حاشدة في إيران تطالب بالرد على إسرائيل والثأر لدماء القادة