دراسة: الذكاء الاصطناعي عنصري وينحاز للبيض ضد السود
تاريخ النشر: 14th, November 2023 GMT
بلغ الذكاء الاصطناعي مستوى مذهل من الواقعية، لدرجة أنه يمكن لبعض الأدوات أن تخدع الناس وتجعلهم يعتقدون أنهم يتفاعلون مع إنسان حقيقي.
أوضحت دراسة في مجال علم النفس، أن صور الوجوه البيضاء الناتجة عن خوارزمية StyleGAN2الشهيرة تبدو أكثر إنسانية من وجوه الأشخاص الفعلية.
وقام الباحثون بحيلة لمعرفة هل يمكن التفرقة بين وجه حقيقي ووجه أنشئ بواسطة الذكاء الاصطناعي أم لا؟، وعرض الباحثون على 124 مشاركًا صور للكثير من الوجوه البيضاء المختلفة وطلبوا منهم أن يقرروا ما إذا كان كل وجه حقيقي أم أنشئ بواسطة الذكاء الاصطناعي.
وصل الذكاء الاصطناعي إلى مستوى مذهل من الواقعية، لدرجة أن بعض الأدوات يمكن أن تخدع الناس وتجعلهم يعتقدون أنهم يتفاعلون مع إنسان حقيقي.
ونشرت دراسة في مجلة علم النفس، وعرض الباحثون على 124 مشاركًا صورًا للعديد من الوجوه البيضاء المختلفة وطلبوا منهم أن يقرروا ما إذا كان كل وجه حقيقيًا أم أنشئ بواسطة الذكاء الاصطناعي.
الذكاء الاصطناعيكان نصف الصور لوجوه حقيقية، والنصف الآخر أنشيء بواسطة الذكاء الاصطناعي. وكانت المفاجأة أن المشاركين كانوا أكثر ميلاً إلى القول بأن الوجوه التي أنشأها الذكاء الاصطناعي كانت حقيقية. في المتوسط، صنف المشاركون حوالي 2 من أصل 3 من الوجوه التي أنشأها الذكاء الاصطناعي على أنها وجوه بشري.
توضح هذه النتائج إلى أن الوجوهةالتي ينشائها الذكاء الاصطناعي تبدو أكثر واقعية من الوجوه الفعلية، ويسمى هذا التأثير بـ «الواقعية المفرطة».
ثقة المشاركون في قراراتهمكانت المفارقة أن الأشخاص الذين كانوا الأسوأ في التعرف على المحتالين في مجال الذكاء الاصطناعي كانوا الأكثر ثقة في تخميناتهم، أي أن الأشخاص الأكثر عرضة للخداع من قبل الذكاء الاصطناعي لم يكونوا على علم بأنهم تعرضوا للخداع.
الذكاء الاصطناعيالواقعية المفرطة للذكاء الاصطناعي متحيزة عنصريًاباستخدام بيانات من دراسة أخرى اختبرت أيضًا الوجوه الآسيوية والسوداء، اكتشف الباحثون أن الوجوه البيضاء التي أنشئت بواسطة الذكاء الاصطناعي فقط هي التي تظهر حقيقية للغاية.
عندما طُلب منهم معرفة إذا كانت الوجوه الملونة هي وجوه بشرية أو أنشئت بواسطة الذكاء الاصطناعي، خمن المشاركون بشكل صحيح في نصف الوقت تقريبًا، وهو ما يشبه التخمين العشوائي.
وهذا يوضح أن الوجوه البيضاء التي ينشئها الذكاء الاصطناعي تظهر أكثر واقعية من الوجوه الملونة التي يولدها الذكاء الاصطناعي.
من الممكن أن يكون مصدر هذا التحيز العنصري من حقيقة أن خوارزميات الذكاء الاصطناعي، غالبًا ما يتم تدريبها على صور الوجوه البيضاء في الغالب.
يمكن أن يكون للتحيز العنصري في التدريب الخوارزمي آثار خطيرة. اكتشفت إحدى الدراسات الحديثة أن السيارات ذاتية القيادة أقل عرضة لاكتشاف الأشخاص السود، ما يعرضهم لخطر أكبر من الأشخاص البيض.
وحاول الباحثون تحديد الميزات التي تجعل وجوه الذكاء الاصطناعي البيضاء تبدو حقيقية للغاية. على سبيل المثال، غالبًا ما يكون لديهم سمات متناسبة ومألوفة، ويفتقرون إلى الصفات المميزة التي تجعلهم يبرزون على أنهم «غريبون» عن الوجوه الأخرى. خطأ المشاركون تفسير هذه السمات باعتبارها علامات على «الإنسانية»، ما أدى إلى تأثير الواقعية المفرطة.
الأسوأ أن برامج الكشف عن الكتابة باستخدام الذكاء الاصطناعي سجلت معدلات عالية في اتهام الأشخاص كذبا بالغش ــ وخاصة الأشخاص الذين يتكلمون لغات غير الإنجليزية.
اقرأ أيضاًمؤسس «شات جي بي تي» يصدم كبار السن: الذكاء الاصطناعي يهدد وجودكم بسوق العمل
إيلون ماسك: الذكاء الاصطناعى قد يلغى جميع وظائف البشر
رئيس جامعة بنها يتفقد كلية الحاسبات والذكاء الاصطناعي
المصدر: الأسبوع
كلمات دلالية: الذكاء الاصطناعي تطور الذكاء الاصطناعي الذكاء بواسطة الذکاء الاصطناعی
إقرأ أيضاً:
مستقبل مراكز مصادر التعلّم في ظل الذكاء الاصطناعي
خميس بن سعيد بن سالم الحربي
k.s.s.alharbi@moe.om
في إحدى المرات استوقفتني عبارة وردت في كتاب يتحدَّث عن مكتبات المُستقبل "انظر جيدًا قبل عبور الشارع ثم انطلق"، ورغم بساطتها، إلّا أنني أراها تجسد جوهر المرحلة التي نعيشها اليوم في مراكز مصادر التعلّم؛ فقبل أن نعبر نحو المُستقبل، علينا أن نتأمل واقعنا بصدق، ثم نخطط بحكمة، لننطلق بثقة في عالم يتغير بسرعة غير مسبوقة في ظل ثورة الذكاء الاصطناعي.
لقد شهد العالم تحولات جذرية في مفهوم المكتبات ومراكز مصادر التعلّم؛ فلم تعد هذه المراكز مجرد أماكن لتخزين الكتب، بل أصبحت فضاءات معرفية رقمية، ومنصات للتعلم الذاتي، والتفكير النقدي، والإبداع، وبناء مهارات المستقبل، ومع ظهور أدوات الذكاء الاصطناعي مثل ChatGPT وغيرها، أصبح الوصول إلى المعلومة أسرع من أي وقت مضى؛ مما يفرض على هذه المراكز إعادة ابتكار دورها، بدلًا من التمسك بنموذجها التقليدي، كما يخشى البعض أن تصبح مراكز مصادر التعلّم كيانًا قديمًا مع تراجع استخدام المصادر الورقية وازدياد الاعتماد على المصادر الرقمية، وهذا الخوف وإن كان مشروعًا قد يدفع صناع القرار إلى التقليل من أهمية هذه المراكز، مما قد يؤدي إلى تراجع مستوى الدعم، وضعف توفير الكوادر المتخصصة، وتقليص الاستثمارات في تطويرها ومع ذلك، فإنَّ الخطر الحقيقي لا يكمن في التكنولوجيا ذاتها، بل في الجمود وعدم القدرة على التكيف معها.
من وجهة نظري.. فإنَّ المستقبل لن يُطيح بمراكز مصادر التعلم؛ بل سيُعيد تشكيلها، فلن يبقى أخصائي مصادر التعلم مجرد مسؤول عن الكتب والأجهزة؛ بل سيصبح واضعًا لسياسات استخدام أدوات الذكاء الاصطناعي، وحارسًا لأخلاقيات المعلومات، ومحفزًا على الابتكار، وموجهًا للطلبة في مواجهة الانتحال والابتزاز الإلكتروني، وشريكًا في بناء عقلية رقمية ناقدة وواعية.
كما إنَّ الدور القادم لأخصائي مصادر التعلم هو دور قيادي، وتربوي، وثقافي، وليس تقنيًا فحسب؛ فالمعرفة اليوم متاحة للجميع، لكن القدرة على التمييز بين الموثوق والمضلل، وبين الإبداع والنسخ، وبين التفاعل والتشتت، هي المهارة الحقيقية التي ينبغي أن نغرسها في الأجيال.
تُظهر العديد من الدراسات أنَّ وجود برامج مكتبية قوية تدار من قبل أمناء مؤهلين يسهم في رفع معدلات القراءة والكتابة والنجاح الأكاديمي وفي المقابل، تكشف بيانات عامي 2021-2022 في الولايات المتحدة أن 35% من المناطق التعليمية لا يوجد فيها أمين مكتبة مدرسي، وأن 35% أخرى تعتمد على أمين بدوام جزئي فقط، مما يؤثر سلبًا على أكثر من 12 مليون طالب، حيث إن هذه الأرقام ليست مجرد إحصاءات، بل هي رسالة تحذيرية واضحة حين نتجاهل مراكز مصادر التعلم، فإننا ندفع الثمن تربويًا وثقافيًا.
الحقيقة أننا أمام مفترق طرق: إما أن نعيد تشكيل مراكز مصادر التعلم لتصبح بيئات رقمية مبتكرة تقود التغيير، وإما أن نتركها تتراجع حتى تتحول إلى مساحة مهجورة لا قيمة لها في العملية التعليمية ولا يتفاعل معها أحد، كما إن الذكاء الاصطناعي ليس تهديدًا؛ بل فرصة لبناء جيل باحث، ناقد، مبدع، يمتلك أخلاقيات رقمية، ويستخدم التقنية بوعي ومسؤولية.
** مشرف مصادر التعلم بالتربية والتعليم
عاجل |تل أبيب تقرر فتح معبر رفح من الجانب الفلسطيني كما كان مقررا والسماح بنقل المساعدات لغزة