“سدايا” تصدر تقريرًا حول تحيز الذكاء الاصطناعي وتحديات تبنيه
تاريخ النشر: 28th, February 2025 GMT
أصدرت الهيئة السعودية للبيانات والذكاء الاصطناعي “سدايا” تقريرًا متخصصًا عن “التحيز في أنظمة الذكاء الاصطناعي” بهدف تسليط الضوء على التحديات التي تواجه تطوير وتبني أنظمة الذكاء الاصطناعي في ظل توسـع كثير من الدول والمنظمات والشركات العالمية فـي تفعيل تطبيقات الذكاء الاصطناعي بشكل مضطرد في عددٍ من القطاعات الحساسة والحيوية، وما رافق ذلك من قلق متنام من تسرّب التحيز إلى أنظمة الذكاء الاصطناعـي لاسيما تلك المرتبطة باتخاذ القرار.
والتحيز في الذكاء الاصطناعي هو عبارة عن ميل غير عادل أو غير مقصود في مخرجات هذه الأنظمة وينشأ عن بيانات مُنحازة أو تصميم غير متوازن للخوارزميات، وقد يحدث في أنظمة الذكاء الاصطناعي بسبب التحيزات الإدراكية التي تؤدي إلى الانحراف عـن التفكير العقلاني أو السلوك الطبيعي في اتخاذ القرار أو الحكم على الأشياء، وغالبًا ما تنبع من التصورات الذهنية أو الاختصارات العقلية التي يستخدمها العقل البشري لتبسيط وتسريع عمليات الفهم واتخاذ القرارات أو بسبب التحيزات التقنية التي تنشأ عن تصميم وبناء أنظمة الذكاء الاصطناعـي وتطويرها وتنفيذها وتنبع من الجوانب الفنية للتقنية نفسها مثـل: التحيز في القياس أو الخوارزميات التي قد تؤثر في عدالة أو دقة أنظمة الذكاء الاصطناعـي.
وبذلت “سدايا” جهودًا كبيرة في تقليل التحيز في أنظمة الذكاء الاصطناعي من خلال تطوير معايير أخلاقية تضمن العدالة والشفافية وعدم التمييز، مع تحسين جودة مخرجات الذكاء الاصطناعي، ولضمان التزام تطبيقات الذكاء الاصطناعي بهذه المعايير، وأطلقت أداة متخصصة لقياس مدى الامتثال للمعايير الأخلاقية، مما يسهم في تعزيز استخدام الذكاء الاصطناعي بشكل مسؤول وعادل.
أخبار قد تهمك أكاديمية التنظيمات الرقمية تعقد برنامجًا تدريبيًا حول “التنظيمات المتطورة.. الذكاء الاصطناعي وأثره على الاقتصاد الرقمي” 27 فبراير 2025 - 8:43 مساءً منتدى مكة للحلال يشهد عددًا من الاتفاقيات لتعزيز النمو الاقتصادي واستثمار أحدث تقنيات الذكاء الاصطناعي في صناعة الحلال 27 فبراير 2025 - 12:19 صباحًاوفي إطار التعاون الدولي، عملت سدايا مع المنظمات الدولية المهتمة بأخلاقيات الذكاء الاصطناعي لضمان تطبيق أفضل المعايير العالمية لأخلاقيات الذكاء الاصطناعي، حيث أنشأت المملكة العربية السعودية ممثلة في “سدايا” مركزًا دوليًا لأبحاث وأخلاقيات الذكاء الاصطناعي (ICAIRE) في الرياض بالتعاون مع منظمة اليونسكو؛ بهدف تعزيز الأبحاث الأخلاقية في الذكاء الاصطناعي ودراسة الحلول الممكنة لمعالجة تحديات الاستخدام الأخلاقي لهذه التقنية على المستوى الدولي.
كما نظّمت سدايا القمة العالمية للذكاء الاصطناعي لأعوام (2021 و2022 و2024) تحت شعار “الذكاء الاصطناعي من أجل خير البشرية” بهدف التوعية ومناقشة التحديات المرتبطة بالتحيز وتعزيز تطبيقات عادلة وشفافة تخدم الإنسانية، ولم تقتصر “سدايا” على الجانب التنظيمي فحسب، بل انتقلت إلى التطبيق العملي، حيث اتخذت عدة تدابير للحد من التحيزات في الأنظمة التي تقوم على تطويرها، بدءًا من مرحلة جمع البيانات وضمان جودتها ودقتها وتنوعها وحتى مرحلة نشر النموذج ، مثل “عيناي” ونموذج الكشف عن سرطان الثدي ونموذج التنبؤ بخطر الإصابة بالسكتة الدماغية.
وحذر التقرير من أنه يمكن أن يدخل الخطأ البشري والتحيز وسوء التقدير في دورة حياة بناء أنظمة الذكاء الاصطناعي، ويؤدي إلى خلق تحيّزات في تلك الأنظمة بصورة مقصودة أو غير مقصودة، وهذه التحيزات قد تقع في المراحل الأولية لصياغة المشكلة وجمع البيانات واستكشـافها إلى المراحل الحرجة كبناء النموذج والتنفيذ إلا أن فهـم مصادرها وكيفية ظهورها ووجود سياسات وإجراءات وضوابط مدروسة وأدوات تقنية مساعدة يُمكن أن يساعد على تجنب كثير منها ويخفف من حدة آثارها.
وأشار التقرير إلى إمكانية أن تنشأ التحيزات من البيانات المستخدمة لتدريـب الأنظمة أو الخوارزميات المستخدمة لمعالجة تلك البيانات أو حتى طريقة عـرض النتائج على المستخدمين مما قد تؤدي إلى تكريس صورة نمطية سلبية تجاه أحد الفئات، داعيًا إلى مراقبة ومراجعة النماذج قيد التشغيل بشكل مستمر لضمان الالتزام بالسياسات الأخلاقية المعتمدة بما يساعد في الكشف عن التحيزات مبكرًا، وتخفيفها قبل استفحال ضررها والبقاء على اطلاع بالبحوث الصادرة في هذا المجال، واختيار الموردين الملتزمين بتطوير تطبيقات الذكاء الاصطناعـي المسؤول.
وقدّم التقرير مجموعة من الحلول والتوصيات لمواجهة التحيز في الذكاء الاصطناعي، من بينها تطوير خوارزميات تتبنى مبادئ الشفافية والعدالة، وتحسين جودة البيانات من خلال ضمان تنوعها وتمثيلها لجميع الفئات، وزيادة الوعي بخطورة التحيز وتأثيره في المجتمعات لتحقيق التوازن والإنصاف، ووضع معايير وقواعد موحدة ومناسبة لتسمية البيانات لكي يتم تلافي عدم التوافق والاتساق في التسميات بين المسـميين مع الاستعانة ببعض الأدوات الناضجة في هذا المجال مثل اتفاقية المسـمين.
ودعا التقرير في ذلك الجانب إلى تنويع فريق العمل المسـؤول عن تطوير ونشر أنظمة الذكاء الاصطناعي وشموليته، وصيانة البنية التحتية لأنظمة الذكاء الاصطناعي لضمان الحفاظ على كفاءة هذه الأنظمة ووقايتها من تسرب التحيزات إليها، والتأكد بشكل دوري من كونها تعمل بكفاءة إلى جانب اعتماد إجراءات للتخفيف من تحيز البيانات عند ملاحظتهـا، وإجراءات لحماية بيانات المستفيدين، وعدم نشر التطبيقات إلا بعد مراجعتها من فرق الحوكمة المتخصصة والمُدربة على البحث عـن أنواع التحيزات في جميع دورات حياة بناء أنظمة الـذكاء الاصطناعـي والإبلاغ
عـن أي مخاوف عند توقعها.
ويمكن الاطلاع على التقرير من خلال زيارة الرابط التالي: https://2u.pw/z2VXywn4 .
المصدر: صحيفة المناطق السعودية
كلمات دلالية: الذكاء الاصطناعي الهيئة السعودية للبيانات والذكاء الاصطناعي الذکاء الاصطناعـی التحیز فی ا
إقرأ أيضاً:
الإمارات في المركز العاشر عالميا في تقرير منظمة رقابة البيانات المفتوحة
حققت دولة الإمارات إنجازاً نوعياً جديداً يعكس ريادتها العالمية في تبني مفاهيم الحكومة الرقمية والبيانات المفتوحة، إذ حلّت في المركز العاشر عالمياً في تقرير مخزون البيانات المفتوحة “ODIN” للعام 2024/2025، الصادر عن منظمة رقابة البيانات المفتوحة، متقدمة على دول كبرى مثل السويد، وهولندا، وألمانيا، وكندا، والولايات المتحدة الأمريكية.
ويُقيّم التقرير الذي يصدر من منظمة رقابة البيانات المفتوحة “ODIN” كل عامين، مدى شمول وانفتاح البيانات المنشورة على المواقع الإلكترونية للمكاتب الإحصائية الوطنية في 197 دولة، ويغطي قطاعات حيوية مثل الإحصاءات الاقتصادية، والمالية، والاجتماعية، والبيئية، ويعد واحداً من أبرز التقارير العالمية المتخصصة.
ويعتمد تقرير مخزون البيانات المفتوحة في تصنيفه على 64 مؤشراً، تقيس مدى توفر البيانات الإحصائية التي تتيحها الدول عبر منصات البيانات المفتوحة الرسمية، وما إذا كانت تلبي المستوى الدولي لمعايير الانفتاح في إتاحة البيانات التي حددتها منهجية التقرير، بعدة عناصر تشمل؛ قدرة الحواسيب والآلات على قراءة البيانات وتحميلها بدون شروط، وتوفير البيانات الوصفية لها مع التوسع في التغطية الجغرافية لها.
وحققت دولة الإمارات المرتبة الأولى عالمياً في عدد من المؤشرات، منها المؤشرات النقدية والمصرفية، والأمن الغذائي والتغذية، ومؤشر الأسعار والتضخم الذي تقدمت فيه الدولة 45 مرتبة، كما سجلت الدولة المرتبة الثانية عالمياً في مؤشر التجارة العالمية، ومؤشر مخرجات التعليم، بقفزة بلغت 54 مرتبة، إضافة إلى مؤشرات أخرى مثل البيئة والصحة والتوازن بين الجنسين.
وقال سعادة المهندس ماجد سلطان المسمار مدير عام هيئة تنظيم الاتصالات والحكومة الرقمية، إن هذا الإنجاز يأتي ليؤكد التزام دولة الإمارات برؤية مستقبلية طموحة تتكامل فيها السياسات الرقمية مع جهود التنمية الشاملة، عبر إتاحة بنية تحتية رقمية قوية قائمة على البيانات المفتوحة أداة للتمكين المجتمعي، وتعزيز التنافسية العالمية، وترسيخ ثقافة الابتكار المبني على البيانات، مشيراً إلى أن دولة الإمارات تعزز مكانتها منصة عالمية لصنع القرار المستند إلى المعرفة، ومركزاً لريادة التحول الرقمي الشامل على مستوى المنطقة والعالم.
وأضاف أن هذا الإنجاز يعكس الدور التمكيني الذي تؤديه الهيئة في تعزيز الجاهزية الرقمية للدولة، من خلال تطوير الأطر التشريعية والتنظيمية، ودعم السياسات الوطنية في البيانات المفتوحة، وتوفير البنية التحتية الرقمية، بما يضمن التكامل بين الجهات الحكومية، ويُرسخ مكانة دولة الإمارات كمرجع عالمي في تبني مفاهيم الحكومة الرقمية والشفافية والابتكار القائم على البيانات.
من جهتها أكدت سعادة حنان منصور أهلي مدير المركز الاتحادي للتنافسية والإحصاء، أن تقدم دولة الإمارات في تقرير مخزون البيانات المفتوحة للعام 2024/2025 يُجسد نموذجاً رائداً لحكومة المستقبل، يرتكز على الشفافية والانفتاح وتوظيف البيانات كأداة إستراتيجية لدفع عجلة التنمية الشاملة.
وقالت إن هذا الإنجاز يمثل ثمرة الرؤية الاستشرافية لدولة الإمارات، واستثماراً متواصلاً في بناء منظومة إحصائية مرنة ومتقدمة، تعتمد على الجاهزية الرقمية، وتسهم في تعزيز تنافسية الدولة عالمياً، وتدعم التوجهات الرئيسية في تحقيق التكامل بين الجهات، ما يسهم في دعم التخطيط المستقبلي في مختلف القطاعات الحيوية وتطوير السياسات، وتعزيز المشاركة المجتمعية، وترسيخ مكانة الإمارات نموذجاً ريادياً في تبني مفاهيم الحكومة الرقمية والبيانات المفتوحة.
يذكر أن البيانات المفتوحة هي مجموعة من البيانات والإحصاءات المتاحة مجاناً التي يمكن لأي فرد أو مؤسسة استخدامها أو إعادة استخدامها أو توزيعها أو مشاركتها مع الغير، وتقوم الحكومات العالمية بتوفيرها للجميع عبر الإنترنت دون قيود تمنع الوصول إليها، وقد حققت دولة الإمارات في نسخة التقرير الحالي 92 نقطة لعنصر انفتاح البيانات، و74 نقطة لعنصر شمول البيانات، وجاءت المحصلة الإجمالية للدولة في التقرير 84 نقطة.وام
انطلاق معرض “صنع في مصر” بطرابلس يوليو المقبل