نماذج ذكاء اصطناعي تغير إجاباتها تبعا لطريقة تحدث المستخدم
تاريخ النشر: 28th, July 2025 GMT
أظهرت دراسة جديدة من جامعة أكسفورد أن نماذج الذكاء الاصطناعي مفتوحة المصدر تتأثر بإفتراضات حول هوية المستخدم، مثل العرق والجنس والعمر، مما يغير إجاباتها على أسئلة واقعية تتعلق بالرواتب، النصائح الطبية، الحقوق القانونية، والمزايا الحكومية.
إجابات متغيرة بناء على هوية المستخدموجد الباحثون أن نموذجين من نماذج الذكاء الاصطناعي المفتوحة المصدر، مثل Llama3 من Meta وQwen3 من Alibaba، يقدمان إجابات مختلفة بناء على افتراضات حول الهوية العرقية والجنسية للمستخدم.
وأكد الباحثون أن هذه التغيرات في الإجابات تظهر حتى عندما تكون الأسئلة موضوعية وينبغي أن تكون الإجابة عليها محايدة وغير مرتبطة بهوية الشخص.
التأثيرات الخطيرة على نصائح الصحة والقانونأظهرت الدراسة أن الذكاء الاصطناعي لا يقدم نصائح حيادية في مجالات هامة مثل الرعاية الصحية، النصائح القانونية، وتقديم مزايا حكومية.
فحتى عندما يصف المستخدمون الأعراض نفسها، تختلف الإجابات بناء على هوية المستخدم، على سبيل المثال، قد ينصح الأشخاص من خلفيات عرقية مختلفة بزيارة الطبيب بناء على نفس الأعراض.
كما لاحظ الباحثون أن بعض الخدمات الصحية النفسية بدأت تستخدم روبوتات المحادثة المدعومة بالذكاء الاصطناعي لتحديد ما إذا كان الشخص بحاجة لمساعدة إنسانية، وهذا يشير إلى أن هناك قلقا متزايدا بشأن تأثير هذه التحيزات على قرارات الصحة النفسية.
التحيزات الخفية في الذكاء الاصطناعيمن المهم أن نلاحظ أن هذه التحيزات لا تظهر من إشارات واضحة مثل ذكر المستخدم لجنسه أو عرقه، بل تنشأ من أنماط لغوية خفية يتم استخلاصها من طريقة الكتابة، وهذه الأنماط تكون سهلة التجاهل، مما يجعل من الصعب اكتشاف هذا النوع من التحيزات.
دعوة لمراجعة الأساليب وأدوات مكافحة التحيزدعا الباحثون إلى تطوير أدوات جديدة لاكتشاف هذا السلوك الخفي قبل أن يتم استخدام هذه النماذج على نطاق واسع، وقدموا مرجعا جديدا لمساعدة الأبحاث المستقبلية في هذا المجال.
وأشاروا إلى أنه من الضروري تطوير معايير لمكافحة التحيزات اللغوية في نماذج الذكاء الاصطناعي لضمان عدم تأثيرها على القرارات الهامة في الحياة اليومية.
نتائج الدراسة: التحيزات على أساس العرق والجنسأظهرت الدراسة أن نماذج الذكاء الاصطناعي كانت أكثر حساسية لعرق وجنس المستخدم عند الإجابة على الأسئلة، على سبيل المثال، كانت هناك تغييرات كبيرة في الإجابات بالنسبة للأشخاص السود مقارنة بالبيض، وللإناث مقارنة بالذكور.
التأثيرات على الرواتب والنصائح الطبيةفيما يتعلق بالرواتب، وجد الباحثون أن النماذج تميل إلى تقديم رواتب أقل للأشخاص غير البيض مقارنة بالبيض، أما في مجال النصائح الطبية، فقد تم إخبار الأشخاص من العرق الأسود بزيارة الطبيب أكثر من الأشخاص البيض، حتى وإن كانت الأعراض هي نفسها.
أوصت الدراسة بتوسيع هذه الاختبارات لتشمل المزيد من نماذج الذكاء الاصطناعي، بما في ذلك تلك المدعومة عبر واجهات التطبيقات فقط مثل ChatGPT.
ويشير الباحثون إلى أن التخصيص الذي تقوم به نماذج الذكاء الاصطناعي قد يتضمن افتراضات غير مرحب بها حول هوية المستخدمين، مما قد يؤثر سلبا على نوعية الاستجابة المقدمة لهم.
توضح الدراسة من أكسفورد أن النماذج الحالية من الذكاء الاصطناعي لا تقدم دائما إجابات محايدة وتكشف عن التحديات التي تواجه الباحثين في توجيه هذه الأنظمة بشكل أخلاقي ومتوازن.
المصدر
المصدر: صدى البلد
كلمات دلالية: الذكاء الاصطناعي نماذج الذكاء الاصطناعي نماذج الذکاء الاصطناعی الباحثون أن بناء على
إقرأ أيضاً:
وزارة المالية تدمج حلول الذكاء الاصطناعي بمركز الاتصال وتتجاوز المستهدفات خلال النصف الأول
كشفت وزارة المالية، أمس، عن نتائج أداء مركز الاتصال خلال النصف الأول من عام 2026، والتي أظهرت نجاح دمج حلول الذكاء الاصطناعي في تخطي كافة المستهدفات التشغيلية المعتمدة وتطوير كفاءة الخدمات، حيث تمثلت أبرز الإنجازات في حل 97.11% من المكالمات من المرة الأولى، واختصار سرعة الرد إلى 8 ثوان فقط مع ارتفاع سعادة المتعاملين إلى 95.43%، بفضل التوظيف الأمثل للتقنيات الذكية التي أسهمت مباشرة في تسريع الاستجابة والارتقاء بجودة العمل المالي الحكومي وفق أعلى المعايير العالمية.
وأكد سعادة يونس حاجي الخوري وكيل وزارة المالية، أن هذه النتائج المسجلة تعكس الرؤية الاستباقية للوزارة في ترسيخ ريادتها الرقمية وصياغة مستقبل مبتكر للخدمات المالية الحكومية يتواكب مع التوجهات الإستراتيجية للدولة في تبني الحلول الذكية، حيث تبرز هذه الإنجازات القيمة الحقيقية للاستثمار المدروس في تقنيات الذكاء الاصطناعي التوليدي، وقدرتها على إحداث تحول جذري في جودة الكفاءة التشغيلية، والارتقاء برضا المتعاملين عبر تقديم خدمات سريعة وموثوقة تفوق توقعاتهم وتختصر الجهد والوقت بشكل ملموس.
وأضاف أن الوزارة ملتزمة بمواصلة تطوير بيئتها التقنية وتحديث خدماتها باستمرار لضمان البناء على هذا التميز المؤسسي المبتكر وتوفير تجربة تفاعلية متكاملة تركز على تمكين العنصر البشري، وتزويده بأحدث الأدوات المساندة لضمان استدامة الأداء العالي، ومواكبة تطلعات المتعاملين بما يدعم تنافسية دولة الإمارات ويسهم في تعزيز مرونة وكفاءة العمل المالي الحكومي وفق أعلى المعايير العالمية المعتمدة في هذا المجال.
وأظهرت البيانات التفصيلية أداء استثنائياً في كافة المؤشرات التشغيلية، حيث حقق المركز نسبة 97.11%، في مؤشر حل المكالمات من المرة الأولى متجاوزاً المستهدف البالغ 90%.
وسجل مؤشر مستوى جودة الخدمة نسبة 92.41%، متخطياً المستهدف المحدد بـ 80 %، كما ارتفعت نسبة سعادة المتعاملين لتصل إلى 95.43%، مقارنة بمستهدف 90%، في حين بلغت نسبة المكالمات التي تم الرد عليها خلال 30 ثانية 93.40%، متفوقة على المستهدف البالغ 90%.
وترافق ذلك مع تقليص متوسط سرعة الرد على المكالمات ليكون 8 ثوان فقط وهو أداء أفضل بكثير من المستهدف البالغ 20 ثانية، كما انخفض متوسط زمن المكالمة إلى 4 دقائق و35 ثانية، وهو أقل من المستهدف البالغ 5 دقائق.
وتكللت هذه النتائج بتسجيل نسبة مكالمات مهجورة بلغت 1.88% فقط وهي أقل بكثير من المستهدف البالغ 5%.
ويرجع هذا النجاح وفق الوزارة إلى حزمة متكاملة من البرامج والتطبيقات الذكية المطبقة في المركز، وفي مقدمتها نظام تحليل المشاعر المدعوم بالذكاء الاصطناعي، الذي يرصد مشاعر المتعاملين من خلال تحليل نبرة الصوت والكلمات المستخدمة في المكالمات.
كما يعتمد النظام على تقنية تحويل الصوت إلى نص باستخدام الذكاء الاصطناعي، بما يتيح تحويل المكالمات إلى نصوص مكتوبة وتقديم ملاحظات وتوجيهات استرشادية للموظفين، بما يسهم في تعزيز جودة الردود ودقتها، هذا إلى جانب توظيف الذكاء الاصطناعي التوليدي للرد على استفسارات المتعاملين بشكل لحظي وعلى مدار الساعة طوال أيام الأسبوع.
ويتيح المركز نظام المحادثة مع الملفات، الذي يمكن المتعاملين من استخراج المعلومات والإجابات من المستندات والأدلة الإرشادية بصيغة “بي دي إف” عبر المحادثة المباشرة مع الذكاء الاصطناعي، بالتكامل مع المساعد الافتراضي لتقديم دعم مستمر وفوري للمتعاملين مع الاعتماد على شاشات العرض الذكية “تابلو” التي توفر لوحات قياس تفاعلية تتيح المتابعة اللحظية لحالة الطلبات ومراقبة الأداء واتخاذ القرارات الفورية جنباً إلى جنب مع نظام “تلبية” المخصص لاستقبال وتلبية طلبات المتعاملين بكفاءة متناهية. وام
نادي الأسير الفلسطيني: ارتفاع عدد الأسيرات إلى 89 داخل السجون الصهيونية