«التطرف في عصر الذكاء الاصطناعي».. ندوة لمركز سلام بمعرض الكتاب
تاريخ النشر: 5th, February 2024 GMT
نظَّم مركز سلام لدراسات التطرف والإسلاموفوبيا، ندوة حول «التطرف في عصر الذكاء الاصطناعي.. قراءة في المخاطر والفرص»، لتسليط الضوء على مخاطر استخدام المتطرفين للذكاء الاصطناعي وآليات مكافحته، وذلك ضمن فعاليات الدورة ال55 لمعرض القاهرة الدولي للكتاب المُقامة في أرض المعارض.
عصر الذكاء الاصطناعيواستعرضت الندوة، خلال فعالياتها اليوم الاثنين، أبرز مخرجات مركز سلام الأكاديمية والبحثية في مجال رصد ومكافحة التطرف والإسلاموفوبيا، والتي يأتي على رأسها دراسة «التطرف في عصر الذكاء الاصطناعي.
وناقش الدراسة الدكتور خالد عمران، أمين الفتوى بدار الإفتاء، والدكتور محمد كمال الباحث بمركز سلام، وحسن محمد، المدير التنفيذي لمركز سلام، وبمشاركة فريق عمل المركز وعدد من ممثلي المراكز البحثية والأكاديمية ورجال الدين والإعلاميين؛ لبحث الظاهرة ووضع سُبل علاجها.
رصد التقنيات المبتكرةوعملت الدراسة على رصد التقنيات المبتكرة التي تستخدمها الجماعات المتطرفة، من خوارزميات التجنيد المعزَّزة بواسطة الذكاء الاصطناعي والموجَّهة إلى الأشخاص المستهدفين، حتى بثِّ الدعاية الزائفة التي تُلهب مشاعر الجماهير وتتلاعب بعقولهم، كذلك مناقشة التحليلات التنبُّئية التي تعزِّز الأساليب التشغيلية والتطبيقات المشفَّرة، والتي تتيح لهذه الفصائل حرية التنقُّل في الفضاء الإلكتروني خفيةً.
كما تُسلِّط صفحات الدراسة الضوءَ على الاستراتيجيات غير التقليدية والمشكلات الأخلاقية الناجمة عن مواجهة التطرف المعزَّز بالذكاء الاصطناعي، بما فيها تقنيات الكشف المبتكرة بواسطة الذكاء الاصطناعي، ومستجدات مبادرات مكافحة التطرف المدمجة بالذكاء الاصطناعي.
وتُشدد الدراسة في صفحاتها على أن التطرف قد استغلَّ الذكاء الاصطناعي أداةً يتوصل بها إلى تحقيق أهدافه؛ مما يتطلَّب استجابة فعَّالة وملائمة للوقاية من هذه التأثيرات الضارة، عبر الفهم المتزايد لهذه التحديات، وتطبيق استراتيجيات مكافحة مبتكرة، تُمكن من توجيه الذكاء الاصطناعي نحو بناء مجتمع أكثر أمانًا واستقرارًا، بعيدًا عن تأثيرات التطرف الضارة.
يُشار إلى أن مركز «سلام لدراسات التطرف والإسلاموفوبيا»، هو مركز بحثي وأكاديمي يتبع دار الإفتاء المصرية، وهو مَعني بدراسة التطرف ومناهج مكافحته والوقاية منه، ويسعى إلى تأصيل فلسفة الدولة المصرية ودار الإفتاء في نطاق المواجهة الفكرية الشاملة لظاهرة التطرف الدينية المتعلقة بقضية التشدد والتطرف.
وقد جاء تأسيس المركز كثمرة لجهود متوالية وخبرات طويلة وعمل دءوب لدار الإفتاء المصرية وللأمانة العامة لدور وهيئات الإفتاء في العالم في مجال مكافحة التطرف والإرهاب على المستوى المحلي والعالمي.
ويسعى المركز إلى تحقيق التكامل والتعاون والتشارك الكامل مع مؤسسات الدولة المصرية الفاعلة في مواجهة التطرف والإرهاب عبر تأسيس كيان يتَّسم بدرجة عالية من الكفاءة الأكاديمية والبحثية يجمع بين دراسة الجوانب المتعددة لظاهرة التطرف، انطلاقًا من الجانب الديني، مرورًا بالجوانب الثقافية والاجتماعية والاقتصادية والنفسية والتربوية، لكي تكون الاستجابة متنوعة بقدر تنوع تعقد الظاهرة.
المصدر: الوطن
كلمات دلالية: الذكاء الاصطناعي معرض الكتاب عصر الذكاء الاصطناعي عصر الذکاء الاصطناعی مرکز سلام
إقرأ أيضاً:
الأخلاقيات في الأتمتة: معالجة التحيز في الذكاء الاصطناعي
مع تزايد اعتماد الشركات على الأنظمة الآلية، أصبحت الأخلاقيات مصدر قلق رئيسي. وباتت الخوارزميات تتخذ، بشكل متزايد، القرارات التي كان يتخذها البشر سابقًا، وتؤثر هذه الأنظمة على العديد من مناحي الحياة. تتطلب هذه القوة، التي يملكها الذكاء الاصطناعي، مسؤولية. فبدون قواعد ومعايير أخلاقية واضحة، يمكن للأتمتة أن تُؤدي إلى الظلم وتُسبب الضرر.
يؤثر التحيز وتجاهل الأخلاقيات على الناس بطرق حقيقية. يمكن للأنظمة المتحيزة، على سبيل المثال، أن ترفض منح القروض أو الوظائف أو الرعاية الصحية، ويمكن للأتمتة أن تزيد من سرعة اتخاذ القرارات الخاطئة في حال عدم وجود حواجز حماية. عندما تتخذ الأنظمة قرارًا خاطئًا، غالبًا ما يكون من الصعب الاعتراض عليه أو حتى فهم السبب، ويؤدي غياب الشفافية إلى تحويل الأخطاء الصغيرة إلى مشاكل أكبر.
سبب التحيز في الذكاء الاصطناعي
غالبًا ما ينشأ التحيز في الأتمتة من البيانات. إذا تضمنت البيانات التاريخية تمييزًا، فقد تُكرر الأنظمة المُدربة عليها هذه الأنماط. على سبيل المثال، قد ترفض أداة ذكاء اصطناعي تُستخدم لفحص المتقدمين للوظائف المرشحين بناءً على الجنس أو العرق أو العمر إذا كانت بيانات التدريب الخاصة بها تعكس تلك التحيزات السابقة. ويدخل التحيز أيضًا من خلال التصميم، حيث يمكن للاختيارات المتعلقة بما يجب قياسه، والنتائج التي يجب تفضيلها، وكيفية تصنيف البيانات أن تؤدي إلى نتائج منحرفة.
هناك أنواع عديدة من التحيز. يحدث تحيز العينات عندما لا تُمثل مجموعة البيانات جميع الفئات، بينما قد ينشأ تحيز التصنيف من مدخلات بشرية ذاتية. حتى الخيارات التقنية، مثل نوع الخوارزمية، قد تُشوّه النتائج.
المشاكل ليست نظرية فحسب. فقد تخلت شركة "أمازون" للتجارة الإلكترونية عن استخدام أداة توظيف في عام 2018 بعد أن فضّلت المرشحين الذكور، ووُجد أن بعض أنظمة التعرف على الوجه تُخطئ في تحديد الأشخاص ذوي البشرة الملونة بمعدلات أعلى من غيرهم. تُزعزع هذه المشاكل الثقة في نماذج الذكاء الاصطناعي وتُثير المخاوف.
وهناك مصدر قلق حقيقي آخر. فحتى عندما لا تُستخدم سمات مثل العرق، بشكل مباشر، فإن سمات أخرى مثل الرمز البريدي أو المستوى التعليمي قد تُمثّل بدائل، مما يعني أن النظام قد يُميّز حتى لو بدت المدخلات محايدة، على سبيل المثال، بناءً على المناطق الأكثر ثراءً أو فقرًا. يصعب اكتشاف التحيز دون اختبار دقيق. ويُعدّ ارتفاع حالات تحيز الذكاء الاصطناعي علامة على الحاجة إلى مزيد من الاهتمام بتصميم النظام.
المعايير المهمة
القوانين تُواكب التطور وتحاول معالجة التحيز. يُصنّف قانون الذكاء الاصطناعي للاتحاد الأوروبي، الصادر عام 2024، أنظمة الذكاء الاصطناعي حسب درجة خطورتها. يجب أن تستوفي الأنظمة عالية الخطورة، كتلك المستخدمة في التوظيف أو تقييم الجدارة الائتمانية، متطلبات صارمة، تشمل الشفافية والرقابة البشرية والتحقق من التحيز. في الولايات المتحدة، تعمل الجهات التنظيمية بفاعلية. وتُحذّر لجنة تكافؤ فرص العمل أصحاب العمل من مخاطر أدوات التوظيف المُدارة بالذكاء الاصطناعي، كما أشارت لجنة التجارة الفيدرالية إلى أن الأنظمة المتحيزة قد تُخالف قوانين مكافحة التمييز.
أنظمة أكثر عدالة
لا تنشأ أخلاقيات الأتمتة صدفة، بل تتطلب تخطيطًا دقيقًا، وأدوات مناسبة، واهتمامًا مستمرًا. يجب دمج التحيز والإنصاف في العملية منذ البداية، لا إضافتهما لاحقًا. وهذا يستلزم تحديد الأهداف، واختيار البيانات المناسبة، وإشراك الأطراف المعنية.
يتطلب تحقيق ذلك اتباع بعض الاستراتيجيات الرئيسية:
إجراء تقييمات التحيز
الخطوة الأولى للتغلب على التحيز هي اكتشافه. يجب إجراء تقييمات التحيز مبكرًا وبشكل متكرر، من مرحلة تطوير النموذج إلى نشره، لضمان عدم تحقيق الأنظمة لنتائج غير عادلة. قد تشمل المقاييس القرارات التي يكون لها تأثير أكبر على مجموعة واحدة من غيرها.
يجب أن تُجري جهات خارجية عمليات تدقيق التحيز كلما أمكن ذلك. قد تُغفل المراجعات الداخلية قضايا رئيسية أو تفتقر إلى الاستقلالية، كما أن الشفافية في عمليات التدقيق الموضوعية تبني ثقة الجمهور.
مجموعات بيانات متنوعة
تساعد بيانات التدريب المتنوعة على تقليل التحيز من خلال تضمين عينات من جميع مجموعات المستخدمين، وخاصةً تلك التي غالبًا ما يتم استبعادها. فمساعد صوتي مُدرّب في الغالب على أصوات الرجال لن يُجدي نفعًا مع النساء، ونموذج تقييم الائتمان الذي يفتقر إلى بيانات المستخدمين ذوي الدخل المحدود قد يُسيء تقديرهم.
يساعد تنوع البيانات أيضًا النماذج على التكيف مع الاستخدام الفعلي. ينتمي المستخدمون إلى خلفيات مختلفة، وينبغي أن تعكس الأنظمة ذلك. فالتنوع الجغرافي والثقافي واللغوي جميعها عوامل مهمة. تنوع البيانات لا يكفي بمفرده. فيجب أن تكون دقيقة ومُصنّفة جيدًا.
الشمولية في التصميم
يُشرك التصميم الشامل الأشخاص المتأثرين. ينبغي على المطورين استشارة المستخدمين، وخاصةً المعرضين لخطر الضرر (أو الذين قد يُسببون ضررًا باستخدام الذكاء الاصطناعي المتحيز)، لأن ذلك يُساعد على كشف الجوانب السلبية.
يعني التصميم الشامل أيضًا فرقًا متعددة التخصصات. إن إشراك خبراء الأخلاق والقانون والعلوم الاجتماعية يُمكن أن يُحسّن عملية اتخاذ القرار، لأن هذه الفرق أكثر ميلًا لطرح أسئلة مختلفة ورصد المخاطر.
يجب أن تكون الفرق متنوعة أيضًا. فالأشخاص ذوو التجارب الحياتية المختلفة يكتشفون قضايا مختلفة، والنظام الذي تُنشئه مجموعة متجانسة قد يتغاضى عن مخاطر قد يكتشفها الآخرون.
الخلاصة أن الأتمتة باقية، لكن الثقة في أنظمة الذكاء الاصطناعي تعتمد على عدالة النتائج ووضوح القواعد. إذ قد يُسبب التحيز في أنظمة الذكاء الاصطناعي ضررًا.
أسعار الأسماك والجمبري اليوم السبت 31 مايو 2025.. البوري بـ 200 جنيه