مشاكل الذكاء الاصطناعي.. عمليات الاحتيال تطال استنساخ الأصوات
تاريخ النشر: 4th, March 2024 GMT
مشاكل الذكاء الاصطناعي.. عمليات الاحتيال تطال استنساخ الأصوات.
المصدر: شفق نيوز
كلمات دلالية: العراق هاكان فيدان تركيا محمد شياع السوداني انتخابات مجالس المحافظات بغداد ديالى نينوى ذي قار ميسان اقليم كوردستان السليمانية اربيل نيجيرفان بارزاني إقليم كوردستان العراق بغداد اربيل تركيا اسعار الدولار روسيا ايران يفغيني بريغوجين اوكرانيا امريكا كرة اليد كرة القدم المنتخب الاولمبي العراقي المنتخب العراقي بطولة الجمهورية الكورد الفيليون الكورد الفيليون خانقين البطاقة الوطنية مطالبات العراق بغداد ذي قار ديالى حادث سير الكورد الفيليون مجلة فيلي عاشوراء شهر تموز مندلي الذكاء الاصطناعي تكنولوجيا استنساخ الاصوات عمليات الاحتيال
إقرأ أيضاً:
الأخلاقيات في الأتمتة: معالجة التحيز في الذكاء الاصطناعي
مع تزايد اعتماد الشركات على الأنظمة الآلية، أصبحت الأخلاقيات مصدر قلق رئيسي. وباتت الخوارزميات تتخذ، بشكل متزايد، القرارات التي كان يتخذها البشر سابقًا، وتؤثر هذه الأنظمة على العديد من مناحي الحياة. تتطلب هذه القوة، التي يملكها الذكاء الاصطناعي، مسؤولية. فبدون قواعد ومعايير أخلاقية واضحة، يمكن للأتمتة أن تُؤدي إلى الظلم وتُسبب الضرر.
يؤثر التحيز وتجاهل الأخلاقيات على الناس بطرق حقيقية. يمكن للأنظمة المتحيزة، على سبيل المثال، أن ترفض منح القروض أو الوظائف أو الرعاية الصحية، ويمكن للأتمتة أن تزيد من سرعة اتخاذ القرارات الخاطئة في حال عدم وجود حواجز حماية. عندما تتخذ الأنظمة قرارًا خاطئًا، غالبًا ما يكون من الصعب الاعتراض عليه أو حتى فهم السبب، ويؤدي غياب الشفافية إلى تحويل الأخطاء الصغيرة إلى مشاكل أكبر.
سبب التحيز في الذكاء الاصطناعي
غالبًا ما ينشأ التحيز في الأتمتة من البيانات. إذا تضمنت البيانات التاريخية تمييزًا، فقد تُكرر الأنظمة المُدربة عليها هذه الأنماط. على سبيل المثال، قد ترفض أداة ذكاء اصطناعي تُستخدم لفحص المتقدمين للوظائف المرشحين بناءً على الجنس أو العرق أو العمر إذا كانت بيانات التدريب الخاصة بها تعكس تلك التحيزات السابقة. ويدخل التحيز أيضًا من خلال التصميم، حيث يمكن للاختيارات المتعلقة بما يجب قياسه، والنتائج التي يجب تفضيلها، وكيفية تصنيف البيانات أن تؤدي إلى نتائج منحرفة.
هناك أنواع عديدة من التحيز. يحدث تحيز العينات عندما لا تُمثل مجموعة البيانات جميع الفئات، بينما قد ينشأ تحيز التصنيف من مدخلات بشرية ذاتية. حتى الخيارات التقنية، مثل نوع الخوارزمية، قد تُشوّه النتائج.
المشاكل ليست نظرية فحسب. فقد تخلت شركة "أمازون" للتجارة الإلكترونية عن استخدام أداة توظيف في عام 2018 بعد أن فضّلت المرشحين الذكور، ووُجد أن بعض أنظمة التعرف على الوجه تُخطئ في تحديد الأشخاص ذوي البشرة الملونة بمعدلات أعلى من غيرهم. تُزعزع هذه المشاكل الثقة في نماذج الذكاء الاصطناعي وتُثير المخاوف.
وهناك مصدر قلق حقيقي آخر. فحتى عندما لا تُستخدم سمات مثل العرق، بشكل مباشر، فإن سمات أخرى مثل الرمز البريدي أو المستوى التعليمي قد تُمثّل بدائل، مما يعني أن النظام قد يُميّز حتى لو بدت المدخلات محايدة، على سبيل المثال، بناءً على المناطق الأكثر ثراءً أو فقرًا. يصعب اكتشاف التحيز دون اختبار دقيق. ويُعدّ ارتفاع حالات تحيز الذكاء الاصطناعي علامة على الحاجة إلى مزيد من الاهتمام بتصميم النظام.
المعايير المهمة
القوانين تُواكب التطور وتحاول معالجة التحيز. يُصنّف قانون الذكاء الاصطناعي للاتحاد الأوروبي، الصادر عام 2024، أنظمة الذكاء الاصطناعي حسب درجة خطورتها. يجب أن تستوفي الأنظمة عالية الخطورة، كتلك المستخدمة في التوظيف أو تقييم الجدارة الائتمانية، متطلبات صارمة، تشمل الشفافية والرقابة البشرية والتحقق من التحيز. في الولايات المتحدة، تعمل الجهات التنظيمية بفاعلية. وتُحذّر لجنة تكافؤ فرص العمل أصحاب العمل من مخاطر أدوات التوظيف المُدارة بالذكاء الاصطناعي، كما أشارت لجنة التجارة الفيدرالية إلى أن الأنظمة المتحيزة قد تُخالف قوانين مكافحة التمييز.
أنظمة أكثر عدالة
لا تنشأ أخلاقيات الأتمتة صدفة، بل تتطلب تخطيطًا دقيقًا، وأدوات مناسبة، واهتمامًا مستمرًا. يجب دمج التحيز والإنصاف في العملية منذ البداية، لا إضافتهما لاحقًا. وهذا يستلزم تحديد الأهداف، واختيار البيانات المناسبة، وإشراك الأطراف المعنية.
يتطلب تحقيق ذلك اتباع بعض الاستراتيجيات الرئيسية:
إجراء تقييمات التحيز
الخطوة الأولى للتغلب على التحيز هي اكتشافه. يجب إجراء تقييمات التحيز مبكرًا وبشكل متكرر، من مرحلة تطوير النموذج إلى نشره، لضمان عدم تحقيق الأنظمة لنتائج غير عادلة. قد تشمل المقاييس القرارات التي يكون لها تأثير أكبر على مجموعة واحدة من غيرها.
يجب أن تُجري جهات خارجية عمليات تدقيق التحيز كلما أمكن ذلك. قد تُغفل المراجعات الداخلية قضايا رئيسية أو تفتقر إلى الاستقلالية، كما أن الشفافية في عمليات التدقيق الموضوعية تبني ثقة الجمهور.
مجموعات بيانات متنوعة
تساعد بيانات التدريب المتنوعة على تقليل التحيز من خلال تضمين عينات من جميع مجموعات المستخدمين، وخاصةً تلك التي غالبًا ما يتم استبعادها. فمساعد صوتي مُدرّب في الغالب على أصوات الرجال لن يُجدي نفعًا مع النساء، ونموذج تقييم الائتمان الذي يفتقر إلى بيانات المستخدمين ذوي الدخل المحدود قد يُسيء تقديرهم.
يساعد تنوع البيانات أيضًا النماذج على التكيف مع الاستخدام الفعلي. ينتمي المستخدمون إلى خلفيات مختلفة، وينبغي أن تعكس الأنظمة ذلك. فالتنوع الجغرافي والثقافي واللغوي جميعها عوامل مهمة. تنوع البيانات لا يكفي بمفرده. فيجب أن تكون دقيقة ومُصنّفة جيدًا.
الشمولية في التصميم
يُشرك التصميم الشامل الأشخاص المتأثرين. ينبغي على المطورين استشارة المستخدمين، وخاصةً المعرضين لخطر الضرر (أو الذين قد يُسببون ضررًا باستخدام الذكاء الاصطناعي المتحيز)، لأن ذلك يُساعد على كشف الجوانب السلبية.
يعني التصميم الشامل أيضًا فرقًا متعددة التخصصات. إن إشراك خبراء الأخلاق والقانون والعلوم الاجتماعية يُمكن أن يُحسّن عملية اتخاذ القرار، لأن هذه الفرق أكثر ميلًا لطرح أسئلة مختلفة ورصد المخاطر.
يجب أن تكون الفرق متنوعة أيضًا. فالأشخاص ذوو التجارب الحياتية المختلفة يكتشفون قضايا مختلفة، والنظام الذي تُنشئه مجموعة متجانسة قد يتغاضى عن مخاطر قد يكتشفها الآخرون.
الخلاصة أن الأتمتة باقية، لكن الثقة في أنظمة الذكاء الاصطناعي تعتمد على عدالة النتائج ووضوح القواعد. إذ قد يُسبب التحيز في أنظمة الذكاء الاصطناعي ضررًا.
استشاري تكنولوجيا إعلام: الحكومة أنهت تريند «شهادات الحلال»