نموذج فيسبوك للذكاء الاصطناعي يفشل في توليد صور تجمع الآسيويين بغيرهم
تاريخ النشر: 4th, April 2024 GMT
يبدو أن نموذج ميتا لتوليد الصور بالذكاء الاصطناعي يواجه صعوبة في التعامل مع الواقع البسيط المتمثل في العلاقات بين الثقافات المتعددة؛ فعند تجربة النموذج من موقع "ذا فيرج" (The Verge) أظهر مولد الصور بالذكاء الاصطناعي من شركة ميتا عجزا مثيرا للدهشة في تخيل صور أفراد آسيويين إلى جانب نظرائهم من الجنس القوقازي.
رغم تعدد المحاولات باستخدام توجيهات متنوعة مثل "رجل آسيوي وصديق قوقازي"، أو "رجل آسيوي وزوجة بيضاء"، أو "امرأة آسيوية وزوج قوقازي"، فإن الأداة تولد في الغالب صورا تظهر فردين آسيويين فقط.
يمتد هذا الخلل إلى تصوير الأزواج من الأعراق المختلطة والصداقات بين الأجناس المختلفة، إذ إن نموذج الذكاء الاصطناعي يعيد باستمرار صورا لا تعكس المزيج العرقي المحدد له في التوجيهات المكتوبة.
على سبيل المثال، نتج عن توجيه "رجل آسيوي وامرأة بيضاء يبتسمان مع كلب" صور لشخصين آسيويين فقط، حتى بعد تعديل الوصف المكتوب.
ولاحظ الموقع أيضا مشكلات مماثلة مع التوجيهات التي تطلب تصوير علاقات الصداقة بين الأجناس المختلفة، إذ كانت الأداة تتجه مرة أخرى إلى عرض صور لأفراد آسيويين.
اللافت للنظر أنه عندما انتقل الموقع للتركيز على صور أفراد من جنوب آسيا، كانت النتائج أدق قليلا ولكنها لا تزال متفاوتة، فقد تمكنت الأداة من إنتاج صورة لرجل من جنوب آسيا مع امرأة قوقازية في إحدى المرات، لتعود بعدها إلى إنتاج صور لأفراد جنوب آسيويين فقط.
إلى جانب هذه التحيزات الواضحة، تشير نتائج نموذج الذكاء الاصطناعي أيضًا إلى تحيزات أعمق وأكثر منهجية.
على سبيل المثال، فإن تصوير الأداة للنساء الآسيويات يتماشى في الغالب مع الملامح الشرق آسيوية وألوان البشرة الفاتحة، متجاهلةً التنوع الهائل في التركيبة السكانية الآسيوية. بالإضافة إلى ذلك، ثمة نزعة واضحة تتمثل في استخدام ملابس خاصة بثقافة معينة، مثل زينة "البيندي" ولباس "الساري" وهي أزياء تشتهر بها الهند، دون أي تعليمات صريحة للنموذج باستخدام هذا النوع من الملابس.
لا تتعلق تلك التحيزات بالمغالطات العرقية فحسب، بل تعكس أيضا التحيزات النمطية والعمرية، فغالبا ما يصور النموذج صورة المرأة الآسيوية على أنها شابة وشرق آسيوية في المظهر، متجاهلا التنوع العمري والعرقي في مختلف أنحاء القارة الآسيوية.
تثير أوجه القصور والتحيزات في نموذج ميتا لتوليد الصور بالذكاء الاصطناعي عدّة مخاوف مهمة بشأن مدى شمولية أدوات الذكاء الاصطناعي وحساسيتها الثقافية، ويؤكد هذا الوضع على الحاجة إلى أن يكون تطوير الذكاء الاصطناعي أكثر تعبيرا عن التنوع الثقافي العالمي وتجنب استمرار التأثر بالقوالب النمطية والتحيزات التي تسيطر على العالم.
ربما تكون تجربة موقع "ذا فيرج" لنموذج ميتا مثالًا تحذيريًا حول المخاطر المحتملة في تطوير نماذج الذكاء الاصطناعي التوليدي، مما يبرز أهمية مجموعات البيانات المختلفة التي تتدرب عليها تلك النماذج. ومع تقدمنا إلى المستقبل، سيكون التصدي لمثل هذه التحيزات أمرًا ضروريًا لتطوير أنظمة الذكاء الاصطناعي التي تفهم وتمثل حقًا النسيج الثري للتجربة الإنسانية.
المصدر: الجزيرة
كلمات دلالية: رمضان 1445 هـ ترجمات حريات الذکاء الاصطناعی
إقرأ أيضاً:
كوريا الجنوبية تتجه نحو تطبيق إطار تنظيمي للذكاء الاصطناعي
ذكرت مصادر صناعية في كوريا الجنوبية اليوم، أن من المقرر أن يدخل قانون إطار عمل الذكاء الاصطناعي حيز التنفيذ في 22 يناير المقبل، والذي يدعو إلى إنشاء لجنة وطنية للذكاء الاصطناعي، ووضع خطة أساسية لهذه التقنية مدتها 3 سنوات، وفرض متطلبات السلامة والشفافية، بما في ذلك التزامات الإفصاح عن بعض أنظمة الذكاء الاصطناعي.
وقالت وكالة "يونهاب" الكورية إن كوريا الجنوبية ستصبح، في حال تنفيذ القانون كما هو مخطط له، أول دولة في العالم تطبق إطارا تنظيميا شاملا للذكاء الاصطناعي.
أخبار ذات صلةوتهدف هذه الخطوة إلى تعزيز السلامة والشفافية في هذا القطاع سريع النمو، غير أنها تثير في الوقت ذاته مخاوف واسعة لدى الشركات الناشئة ودوائر الصناعة من أن تؤدي القواعد الصارمة إلى إبطاء وتيرة الابتكار وزيادة الأعباء التنظيمية على الشركات الصغيرة.
وكان الاتحاد الأوروبي أول من أقر تشريعات متعلقة بالذكاء الاصطناعي، لكنه يخطط لتطبيق معظم قواعده اعتبارا من أغسطس، مع توقع تأجيل بعض البنود حتى عام 2027؛ وسط الضغوط المتزايدة من الشركات واحتدام المنافسة العالمية.
المصدر: وكالات
الظهور الأول لـ هدير عبد الرازق وطليقها أوتاكا أمام المحكمة