دراسة: الذكاء الاصطناعي عنصري وينحاز للبيض ضد السود
تاريخ النشر: 14th, November 2023 GMT
بلغ الذكاء الاصطناعي مستوى مذهل من الواقعية، لدرجة أنه يمكن لبعض الأدوات أن تخدع الناس وتجعلهم يعتقدون أنهم يتفاعلون مع إنسان حقيقي.
أوضحت دراسة في مجال علم النفس، أن صور الوجوه البيضاء الناتجة عن خوارزمية StyleGAN2الشهيرة تبدو أكثر إنسانية من وجوه الأشخاص الفعلية.
وقام الباحثون بحيلة لمعرفة هل يمكن التفرقة بين وجه حقيقي ووجه أنشئ بواسطة الذكاء الاصطناعي أم لا؟، وعرض الباحثون على 124 مشاركًا صور للكثير من الوجوه البيضاء المختلفة وطلبوا منهم أن يقرروا ما إذا كان كل وجه حقيقي أم أنشئ بواسطة الذكاء الاصطناعي.
وصل الذكاء الاصطناعي إلى مستوى مذهل من الواقعية، لدرجة أن بعض الأدوات يمكن أن تخدع الناس وتجعلهم يعتقدون أنهم يتفاعلون مع إنسان حقيقي.
ونشرت دراسة في مجلة علم النفس، وعرض الباحثون على 124 مشاركًا صورًا للعديد من الوجوه البيضاء المختلفة وطلبوا منهم أن يقرروا ما إذا كان كل وجه حقيقيًا أم أنشئ بواسطة الذكاء الاصطناعي.
الذكاء الاصطناعيكان نصف الصور لوجوه حقيقية، والنصف الآخر أنشيء بواسطة الذكاء الاصطناعي. وكانت المفاجأة أن المشاركين كانوا أكثر ميلاً إلى القول بأن الوجوه التي أنشأها الذكاء الاصطناعي كانت حقيقية. في المتوسط، صنف المشاركون حوالي 2 من أصل 3 من الوجوه التي أنشأها الذكاء الاصطناعي على أنها وجوه بشري.
توضح هذه النتائج إلى أن الوجوهةالتي ينشائها الذكاء الاصطناعي تبدو أكثر واقعية من الوجوه الفعلية، ويسمى هذا التأثير بـ «الواقعية المفرطة».
ثقة المشاركون في قراراتهمكانت المفارقة أن الأشخاص الذين كانوا الأسوأ في التعرف على المحتالين في مجال الذكاء الاصطناعي كانوا الأكثر ثقة في تخميناتهم، أي أن الأشخاص الأكثر عرضة للخداع من قبل الذكاء الاصطناعي لم يكونوا على علم بأنهم تعرضوا للخداع.
الذكاء الاصطناعيالواقعية المفرطة للذكاء الاصطناعي متحيزة عنصريًاباستخدام بيانات من دراسة أخرى اختبرت أيضًا الوجوه الآسيوية والسوداء، اكتشف الباحثون أن الوجوه البيضاء التي أنشئت بواسطة الذكاء الاصطناعي فقط هي التي تظهر حقيقية للغاية.
عندما طُلب منهم معرفة إذا كانت الوجوه الملونة هي وجوه بشرية أو أنشئت بواسطة الذكاء الاصطناعي، خمن المشاركون بشكل صحيح في نصف الوقت تقريبًا، وهو ما يشبه التخمين العشوائي.
وهذا يوضح أن الوجوه البيضاء التي ينشئها الذكاء الاصطناعي تظهر أكثر واقعية من الوجوه الملونة التي يولدها الذكاء الاصطناعي.
من الممكن أن يكون مصدر هذا التحيز العنصري من حقيقة أن خوارزميات الذكاء الاصطناعي، غالبًا ما يتم تدريبها على صور الوجوه البيضاء في الغالب.
يمكن أن يكون للتحيز العنصري في التدريب الخوارزمي آثار خطيرة. اكتشفت إحدى الدراسات الحديثة أن السيارات ذاتية القيادة أقل عرضة لاكتشاف الأشخاص السود، ما يعرضهم لخطر أكبر من الأشخاص البيض.
وحاول الباحثون تحديد الميزات التي تجعل وجوه الذكاء الاصطناعي البيضاء تبدو حقيقية للغاية. على سبيل المثال، غالبًا ما يكون لديهم سمات متناسبة ومألوفة، ويفتقرون إلى الصفات المميزة التي تجعلهم يبرزون على أنهم «غريبون» عن الوجوه الأخرى. خطأ المشاركون تفسير هذه السمات باعتبارها علامات على «الإنسانية»، ما أدى إلى تأثير الواقعية المفرطة.
الأسوأ أن برامج الكشف عن الكتابة باستخدام الذكاء الاصطناعي سجلت معدلات عالية في اتهام الأشخاص كذبا بالغش ــ وخاصة الأشخاص الذين يتكلمون لغات غير الإنجليزية.
اقرأ أيضاًمؤسس «شات جي بي تي» يصدم كبار السن: الذكاء الاصطناعي يهدد وجودكم بسوق العمل
إيلون ماسك: الذكاء الاصطناعى قد يلغى جميع وظائف البشر
رئيس جامعة بنها يتفقد كلية الحاسبات والذكاء الاصطناعي
المصدر: الأسبوع
كلمات دلالية: الذكاء الاصطناعي تطور الذكاء الاصطناعي الذكاء بواسطة الذکاء الاصطناعی
إقرأ أيضاً:
خلال محاكمة.. الذكاء الاصطناعي يحيل إلى مرجع غير موجود
في محاكمة بين "أنثروبيك" للذكاء الاصطناعي وأصحاب حقوق ملكية فكرية، تضمنت مذكرة قضائية للدفاع عن الشركة الناشئة إشارة إلى مرجع وهمي لا وجود له.
بدأ الذكاء الاصطناعي يغير تدريجيا طريقة العمل في المجال القضائي. فبينما تسهّل هذه الأداة البحث في السوابق القضائية، يجب أن تخضع مخرجاتها للمراقبة بسبب قدرتها على الهلوسة.
وقد برز هذا مؤخرًا في محاكمة بين شركة "أنثروبيك" للذكاء الاصطناعي وشركات موسيقية. في أكتوبر 2023، طلبت شركات موسيقى من القضاة الاتحاديين في ولاية كاليفورنيا حظر استخدام دليلها الموسيقي لتدريب نماذج الذكاء الاصطناعي الخاصة بشركة "أنثروبيك".
رفض القضاة هذا الطلب في مارس 2025، معتبرين أنه لا يوجد دليل على ضرر لا يمكن إصلاحه. بعد ذلك، رفع المدعون دعوى قضائية أخرى تتعلق بانتهاك حقوق الطبع والنشر. تكمن إحدى نقاط الخلاف الرئيسية في هذه القضية في فحص حجم العينة المتفاعلة مع أداة "كلود" للذكاء الاصطناعي التابعة لشركة "أنثروبيك"، لتحديد وتيرة إعادة إنتاج الذكاء الاصطناعي لكلمات الأغاني المحمية أو توليدها.
مرجع وهمي
قدمت أوليفيا تشين، عالمة البيانات في شركة "أنثروبيك"، مذكرة إلى المحكمة تُجادل فيها بأن عينة من مليون تفاعل مستخدم كافية لتقديم "معدل انتشار معقول" لظاهرة نادرة: مستخدمو الإنترنت يبحثون عن كلمات الأغاني. وقدّرت أن هذه الحالة لا تُمثل سوى 0.01% من التفاعلات. وفي شهادتها، استشهدت بمقال أكاديمي نُشر في مجلة "الإحصائي الأميركي" تبيّن لاحقا أنه غير موجود.
طلب المدعون من المحكمة استدعاء أوليفيا تشين ورفض أقوالها بسبب الإحالة إلى هذا المراجع الزائف. ومع ذلك، منحت المحكمة شركة "أنثروبيك" وقتًا للتحقيق. وقد وصف محامي الشركة الناشئة الحادثة بأنها "خطأ بسيط في الاستشهاد"، وأقرّ بأن أداة "كلود" للذكاء الاصطناعي استُخدمت "لتنسيق ثلاثة مراجع ببليوغرافية على الأقل بشكل صحيح". وفي هذا السياق، اخترع الذكاء الاصطناعي مقالاً وهمياً، مع مؤلفين خاطئين لم يعملوا معًا قط.
تجنب أخطاء الذكاء الاصطناعي
تُسلّط هذه الحادثة الضوء على الانتشار المُقلق للأخطاء الناتجة عن الذكاء الاصطناعي في الإجراءات القانونية، وهي ظاهرة متنامية تُعرّض الشركات لمخاطر جسيمة، لا سيما عندما يعتمد محاموها على هذه الأدوات لجمع المعلومات وصياغة الوثائق القانونية.
يقول برايان جاكسون، مدير الأبحاث في مجموعة Info-Tech Research Group "خلق استخدام الذكاء الاصطناعي نوعًا من الكسل الذي أصبح مصدر قلق في المجال القانوني". ويضيف: "لا ينبغي استخدام أدوات الذكاء الاصطناعي كحل شامل لإنتاج الوثائق اللازمة للملفات القضائية".
إجلاء جوي عاجل ينقذ حاجًا عراقيًا من أزمة قلبية حادة