الذكاء الاصطناعي- هل يتسبب بـ"تمييز رقمي" مبرمَج في ألمانيا؟
تاريخ النشر: 1st, September 2023 GMT
يحذر خبراء من حدوث أشكال من التمييز في التطبيقات التي تعتمد على الذكاء الاصطناعي
خلال مؤتمر صحافي في برلين الأربعاء (30 أغسطس / آب)، قالت فيردا أتامان، المفوضة المستقلة لمكافحة التمييز في ألمانيا، إن الذكاء الاصطناعي "يسهل الكثير من نواحي الحياة بما في ذلك التمييز والعنصرية" أيضا.
وجاءت تصريحات أتامان، رئيسة الوكالة الاتحادية لمكافحة التمييز، في مستهل تقديم تقريرها بشأن أفضل السبل لحماية الأشخاص من أي شكل من أشكال التمييز التي تساهم فيها "الخوارزميات الخاصة بدعم اتخاذ القرارات" أو ما يطلق عليها في الإنجليزية "algorithmic decision making systems"، وتعرف في العربية اختصارا بـ"مجال الأتمتة".
واستشهد التقرير بأمثلة عديدة يستخدم فيها "مجال الأتمتة"، الذي يعتمد على الذكاء الاصطناعي، مثل إجراءات التقديم للحصول على وظيفة، أو الحصول على قروض من البنوك أو توقيع عقود مع شركات التأمين أو الحصول على دعم من الدولة مثل المساعدات الاجتماعية.
التمييز الرقمي؟
وقالت أتامان "ما يبدو موضوعيا للوهلة الأولى يمكن أن يعيد تلقائيا صدور أحكام مسبقة وتصورات نمطية. ولا ينبغي لنا تحت أي ظرف من الظروف أن نقلل من مخاطر التمييز الرقمي".
يشار إلى أن السنوات الماضية قد برهنت على صحة مخاوف أتامان، إذ إنه في عام 2019، تعرض أكثر من 20 ألف شخص في هولندا لعملية فساد انطوت على استخدام التكنولوجيا التي يفترض كثيرون أنها نزيهة، في قضية عُرفت إعلاميا بـ "فضيحة الاحتيال في إعانات رعاية الأطفال".
وتعود القضية إلى مطالبة آلاف الأسر في هولندا بسداد عشرات الآلاف من الإعانات بعد اتهامهم خطأ بالاحتيال في رعاية الأطفال، وتهديدهم بفرض غرامات كبيرة عليهم، في فضيحة أدت إلى استقالة الحكومة في حينه بعد أن اعترفت بالخطأ، الذي تعرضت له، خصوصا الأسر التي لديها جنسية مزدوجة.
ويرى خبراء أن "الخوارزمية التمييزية في البرنامج كانت مسؤولة جزئيا" عن الخطأ في فضيحة عززت مخاوف الأقليات العرقية في هولندا من أنهم يتعرضون للتمييز السلبي من قبل السلطات.
وفي محاولة لمنع حدوث مثل هذه الحالات في ألمانيا، دعت أتامان الشركات إلى العمل بشفافية، بما يشمل تقديم الشركات التي تستخدم الذكاء الاصطناعي معلومات حول البيانات المستخدمة وطريقة معالجتها.
وأشار مؤلفو التقرير، الذي قدمته المسؤولة الألمانية إلى أن الأنظمة القائمة على استخدام الذكاء الاصطناعي تعد بمثابة "صندوق أسود"، حيث من الصعب تتبع أسباب تعرض أي فئة لأي تجاوزات.
وقال التقرير إن احتمالات التمييز في "خدمات إدارة بيانات التطبيق" قد تكون "متأصلة بالفعل في النظام نفسه"، فيما قد يكون السبب في ذلك مجموعة بيانات معيبة جرى جمعها لغرض منحرف.
دعت فيردا أتامان، المفوضة المستقلة لمكافحة التمييز، إلى وضع قواعد بشأن استخدام الذكاء الاصطناعي
الرمز البريدي
ولم يتوان التقرير عن تقديم أمثلة على مثل هذه الحالات، قائلا: "لا تعد خاصية الرمز البريدي، على سبيل المثال، تمييزية في حد ذاتها، لكنها قد تنطوي على شكل من أشكال التمييز المحظور بسبب أن الكثير من المهاجرين، ولأسباب تاريخية، يقطنون أحياء معينة".
مختارات "الأب الروحي للذكاء الاصطناعي" يستقيل من غوغل ويحذر من مستقبل مظلم الذكاء الاصطناعي.. تحذيرات من خطرٍ محدق "إذا لم تتم السيطرة"! مخاوف من توظيف الذكاء الاصطناعي لملاحقة المعارضين بالشرق الأوسطوأضاف التقرير أن هذه الاحتمالية قد تسفر عن عواقب سلبية على الأشخاص، الذين يعيشون في هذه المناطق، إذ يمكن في حالة رغبتهم في الحصول على قروض اعتبار الأمر ينم عن مخاطر مالية مع الاعتقاد السائد بأن المهاجرين قد لا يتمكنون من سداد ديونهم، فيما يُطلق عليه "التمييز الإحصائي السكاني"، الذي يجعل من أي شخص ينتمي إلى عرقية بعينها في دائرة الاشتباه.
الدعوة لإنشاء هيئة تحكيمية
وفي محاولة للحيلولة دون حدوث مثل هذه الحوادث، تأمل أتامان في إنشاء مكتب للتوفيق والتحكيم داخل الوكالة الاتحادية لمكافحة التمييز، مع الدعوة إلى شمول "القانون العام للمساواة في المعاملة" لإجراءات توفيق إلزامية.
الجدير بالذكر أن القانون العام للمساواة في المعاملة يحظر التمييز سواء في الحصول على الوظائف وفي أماكن العمل وفي الأماكن العامة وحتى في طرق البحث عن مسكن في ألمانيا.
وسلط تقرير الوكالة الاتحادية لمكافحة التمييز الضوء على خطورة الأمر، إذ ذكّر بأنه في الولايات المتحدة الأمريكية أدت الخوارزميات المبرمجة بشكل غير صحيح في البطاقات الائتمانية الخاصة بشركة آبل المعروفة باسم "آبل كارد" إلى التمييز بشكل منهجي ضد المرأة عند منح الائتمان.
ولم يتوقف الأمر على الولايات المتحدة إذ في أستراليا، اضطر مئات الآلاف إلى تسديد استحقاقات الرعاية الاجتماعيةالتي يحق لهم الحصول عليها بسبب خطأ في نظام الأتمتة في عمليات صنع القرار التي تعتمد على الذكاء الاصطناعي.
وفي ضوء هذه المعطيات، خلص التقرير الذي عرضته أتامان إلى القول بأن "الرقمنة تعد المستقبل، لكن يجب ألا تصبح كابوسا. يجب أن يكون لدى الناس الثقة بأنهم لن يتعرضوا للتمييز من قبل الذكاء الاصطناعي وحتى في حالة حدوث ذلك، فإنه بمقدورهم الدفاع عن أنفسهم. لذا فإن هناك حاجة إلى الخروج بقواعد واضحة ومفهومة".
مارسيل فورستيناو / م. ع
المصدر: DW عربية
كلمات دلالية: الذكاء الاصطناعي الذكاء الاصطناعي الذکاء الاصطناعی فی ألمانیا الحصول على
إقرأ أيضاً:
ماذا تعرف عن رجل الإمارات في الغرب؟.. من مانشستر إلى الذكاء الاصطناعي
في قلب دوائر صنع القرار العليا للعائلة الحاكمة في أبوظبي، يبرز اسم مارتين إيدلمان، المحامي الأمريكي البالغ من العمر 83 عامًا، الذي نجح في التغلغل في النخبة السياسية والاقتصادية للإمارة الخليجية الثرية، ليصبح حلقة وصل الإمارات في العالم الغربي.
ولد مارتين إيدلمان في أسرة يهودية ليبرالية في ولاية نيويورك، وكان منزله يغص بالنقاشات حول العدالة الاجتماعية وحقوق الإنسان. ودرس في جامعة برينستون٬ ثم أصبح أحد كتاب خطابات المدعي العام الأمريكي آنذاك روبرت كينيدي٬ مما وضعه على تماس مع إحدى أكثر العائلات نفوذاً في السياسة الأمريكية.
وبعد تخرّجه من كلية الحقوق بجامعة كولومبيا، التحق بالجيش الأمريكي وقضى ثلاث سنوات في الخدمة خلال حرب فيتنام. وعاد بعدها إلى نيويورك ليبدأ مسيرة قانونية الحقيقة٬ توّجها بصفقة إسكانية كبرى مع لاعب كرة البيسبول، جاكي روبنسون، ليصبح منذ ذلك الحين أحد أبرز المحامين في عالم العقارات في مدينة نيويورك.
من العراق إلى أبوظبي
في عام 2002، وبينما كان منخرطًا في جهود إنسانية لدعم قدامى المحاربين، تلقّى دعوة من الجنرال الأمريكي تومي فرانكس لمرافقته في جولة بالخليج العربي.
وكانت زيارته لأبوظبي نقطة تحول، إذ سرعان ما نسج علاقات وثيقة مع الشيخ محمد بن زايد آل نهيان الرئيس الحالي لدولة الإمارات وشقيقه الشيخ طحنون، مستشار الأمن القومي، اللذين رأوا فيه وسيطًا مثاليًا بين ثقافات متعددة.
ورغم خلفيته اليهودية، رحّبت به القيادة الإماراتية، وعيّن مستشارًا خاصًا للدولة والعائلة الحاكمة، في سابقة نادرة لشخص أجنبي. حتى إنه حصل لاحقًا على جواز سفر إماراتي، وهي ميزة لا تُمنح إلا لأشخاص يتمتعون بأعلى درجات الثقة.
من مانشستر إلى الذكاء الاصطناعي
وكان إيدلمان في قلب الصفقة التاريخية عام 2008 لشراء نادي مانشستر سيتي الإنجليزي، إذ لعب دور الوسيط بين الشيخ منصور بن زايد ومستثمري كرة القدم في الغرب.
كما كان له دور بارز في المفاوضات التي سبقت إنشاء فرع جامعة نيويورك في أبوظبي عام 2010، حيث وصفه خلدون المبارك، رئيس صندوق مبادلة، بأنه "الجسر" بين الطرفين.
في السنوات الأخيرة، عاد ليلعب دوراً محورياً في طموحات أبوظبي التكنولوجية، خاصة في سعيها لاقتناء شرائح شركة إنفيديا المتقدمة، في ظل شراكات متعددة مع شركات مثل G42 ومجموعة رويال المملوكة للشيخ طحنون.
التوازن بين واشنطن وأبوظبي
ومع تغير الإدارات الأمريكية، حافظ إيدلمان على موقعه الفريد كمبعوث غير رسمي بين الإمارات وواشنطن. فهو على علاقة وثيقة بعدد من كبار الشخصيات في الحزب الديمقراطي، مثل آل كينيدي وكلينتون وجورج سوروس، وفي الوقت ذاته يتمتع بعلاقة صداقة طويلة مع الرئيس دونالد ترامب، تعود إلى أيام ازدهار العقارات في نيويورك خلال الثمانينات والتسعينات.
هذا التنوع السياسي جعله شريكاً موثوقاً للطرفين، في وقت تسعى فيه أبوظبي إلى توسيع استثماراتها في مجالات حساسة مثل الذكاء الاصطناعي والرقائق الإلكترونية.
نفوذ واسع في مؤسسات كبرى
يشغل إيدلمان مناصب استشارية أو عضوية في مجالس إدارة عدة مؤسسات محورية في أبوظبي، من بينها مبادلة، G42، مانشستر سيتي، مجموعة رويال، وشركة MGX التي تمول مبادرة الذكاء الاصطناعي التي أطلقها ترامب بقيمة 100 مليار دولار. كما يرتبط بشركة GlobalFoundries، وهي أحد أكبر منتجي أشباه الموصلات في العالم.
ويقول ستيف ويتكوف، مستشار ترامب وصديق إيدلمان منذ ثلاثة عقود: "سر مارتي هو أنه محل ثقة الجميع. لا يُنظر إليه كمُتحيّز سياسيًا، بل كحلّال للمشاكل".
بين مجلس أبوظبي وقاعات مانهاتن
ولا تقتصر سياسة إيدلمان على تعدد العلاقات فقط، بل في قدرته على فهم تعقيدات الثقافة الإماراتية والانخراط في مجلسها التقليدي، بالتوازي مع تمرّسه في دهاليز السياسة الأمريكية. حيث يبدأ يومه في الرابعة والنصف صباحًا بسلسلة مكالمات وتمارين رياضية، ثم ينطلق إلى حلقة لا تنتهي من الاجتماعات والصفقات بين أبوظبي ونيويورك.
وبينما تتوافد كبرى الشركات العالمية على أبوظبي، أملاً في النفاذ إلى ثروتها السيادية التي تقارب 1.7 تريليون دولار، أصبح إيدلمان حلقة الوصل، مستفيداً من علاقات نسجها قبل سنوات من طفرة الاهتمام بالإمارة.
تحذير من حملات ترويج عقارية غير مرخصة داخل مراكز التسوق