خبراء يسعون لجعل الذكاء الاصطناعي يمحو أخطاءه
تاريخ النشر: 9th, December 2023 GMT
عندما اكتشف براين هود أن أداة "تشات جي بي تي" للذكاء الاصطناعي نسبت إليه ماضياً إجرامياً، وجد هذا السياسي الأسترالي نفسه في مواجهة معضلة ينكبّ المهندسون جاهدين عى محاولة حلّها، وتتمثل في كيفية تعليم الذكاء محوَ الأخطاء.
فالخيار القانوني المتمثل في تلويح براين هود في أبريل الفائت برفع دعوى تشهير على شركة "أوبن إيه آي" (منشئة "تشات جبي بي تي") لا يبدو حلاً مناسباً.
يرى المختصون أن مسألة "إلغاء التعلّم" أي جعل الذكاء الاصطناعي ينسى بعض ما تلقّنه، ستكون بالغة الأهمية في السنوات المقبلة، وخصوصاً في ضوء التشريعات الأوروبية لحماية البيانات.
تؤكد ليسا غيفن أستاذة علوم المعلومات في جامعة "آر إم آي تي" في ملبورن الأسترالية أن "القدرة على محو البيانات الموجودة في قواعد بيانات التعلّم هي موضوع مهم جداً". لكنها ترى أن جهداً كبيراً لا يزال مطلوباً في هذا المجال نظرا إلى النقص الحالي في المعرفة في شأن كيفية عمل الذكاء الاصطناعي.
ففي ظل الكم الهائل من البيانات التي يُدرَّب الذكاء الاصطناعي عليها، يسعى المهندسون إلى حلول تتيح تحديداً أكبر، بحيث تُزال المعلومات الخاطئة من مجال معرفة أنظمة الذكاء الاصطناعي بغية وقف انتشارها.
واكتسب الموضوع زخما خلال السنوات الثلاث أو الأربع الأخيرة، على ما يوضح مقداد كرمانجي الباحث الخبير في هذا المجال من جامعة "وارويك" البريطانية.
وعملت "غوغل ديب مايند" المتخصصة في الذكاء الاصطناعي على معالجة هذه المشكلة، إذ نشر خبراء من الشركة الأميركية الشهر المنصرم مع كورمانجي، خوارزمية مخصصة لمحو البيانات في نماذج لغوية مهمة، كنموذجَي "تشات جي بي تي" و"بارد" (من "غوغل").
- تصحيح بعض التحيزات
انكبّ أكثر من ألف خبير شاركوا في مسابقة أطلقتها الشركة الأميركية على العمل ما بين يوليو وسبتمبر الماضيين لتحسين أساليب "إلغاء تعلّم" الذكاء الاصطناعي.
وتتمثل الطريقة المستخدمة المشابهة لما توصلت إليه أبحاث أخرى في هذا المجال، في إدخال خوارزمية تأمر الذكاء الاصطناعي بعدم أخذ بعض المعلومات المكتسبة في الاعتبار، ولا تتضمن تعديل قاعدة البيانات.
يؤكد مقداد كرمانجي أن هذه العملية يمكن أن تكون "أداة مهمة جداً" لتمكين أدوات البحث من الاستجابة مثلاً لطلبات الحذف، عملاً بقواعد حماية البيانات الشخصية.
ويؤكد أن الخوارزمية، التي تم التوصل إليها، أثبتت فاعليتها أيضاً في إزالة المحتوى المحميّ بموجب حقوق المؤلف أو في تصحيح بعض التحيزات.
لكنّ آخرين كمسؤول الذكاء الاصطناعي في "ميتا" (فيسبوك وإنستعرام) يانّ لوكان، يبدون أقل اقتناعاً بهذه الفاعلية.
ويوضح لوكان أنه لا يقول إن هذه الخوارزمية "غير مجدية أو غير مثيرة للاهتمام أو سيئة"، بل يرى أن "ثمة أولويات أخرى".
يعتبر مايكل روفاتسوس أستاذ الذكاء الاصطناعي في جامعة إدنبره أن "الحل التقني ليس الحل الناجع".
ويشرح أن "إلغاء التعلم" لن يتيح طرح أسئلة أوسع، ككيفية جمع البيانات، ومن المستفيد منها، أو من يجب أن يكون مسؤولا عن الضرر الذي يسببه الذكاء الاصطناعي.
ومع أن قضية براين هود عولجت، من دون تفسير، بعدما حظيت باهتمام إعلامي واسع أثمرَ تصحيح البيانات التي تعالجها "تشات جي بي تي"، فإنه يعتبر أن الأساليب التي ينبغي استخدامها في الوقت الراهن يجب أن تبقى يدوية.
ويقول الرجل الأسترالي "ينبغي أن يتحقق المستخدمون من كل شيء، في الحالات التي تعطي فيها روبوتات الدردشة معلومات خاطئة". أخبار ذات صلة
المصدر: صحيفة الاتحاد
كلمات دلالية: الذكاء الاصطناعي الأخطاء الشائعة تعلم الذکاء الاصطناعی
إقرأ أيضاً:
الذكاء الاصطناعي يحل لغزًا يتعلق بمرض كرون
توصل باحثون من جامعة كاليفورنيا الأميركية في سان دييغو إلى حل لنقاش دام عقودا حول دور أول جين مرتبط بمرض كرون والذي يرتبط بزيادة خطر الإصابة بهذا المرض المناعي الذاتي.
تحتوي الأمعاء البشرية على نوعين من الخلايا البلعمية، أو خلايا الدم البيضاء المتخصصة، والتي لها أدوار مختلفة تمامًا ولكنها متساوية في الأهمية في الحفاظ على التوازن في الجهاز الهضمي. تحارب الخلايا البلعمية الالتهابية العدوى الميكروبية، بينما تقوم الخلايا البلعمية غير الالتهابية بإصلاح الأنسجة التالفة.
في مرض كرون، وهو أحد أشكال أمراض الأمعاء الالتهابية، يمكن أن يؤدي عدم التوازن بين هذين النوعين من الخلايا البلعمية إلى التهاب مزمن في الأمعاء، مما يؤدي إلى تلف جدار الأمعاء ويسبب الألم وأعراضًا أخرى.
طور باحثون في كلية الطب بجامعة كاليفورنيا في سان دييغو نهجًا جديدًا يدمج الذكاء الاصطناعي مع تقنيات البيولوجيا الجزيئية المتقدمة لفك شفرة ما يحدد ما إذا كانت الخلية البلعمية ستصبح التهابية أم غير التهابية.
كما تحل الدراسة لغزًا طويل الأمد يحيط بدور جين يسمى NOD2 في عملية اتخاذ القرار هذه. تم اكتشاف NOD2 في عام 2001 وهو أول جين مرتبط بزيادة خطر الإصابة بمرض كرون.
باستخدام أداة قوية للتعلم الآلي، حلل الباحثون آلاف أنماط التعبير الجيني للخلايا البلعمية من أنسجة القولون المصابة بأمراض الأمعاء الالتهابية ومن أنسجة القولون السليمة. وحددوا بصمة جينية للخلايا البلعمية تتكون من 53 جينًا تفصل بشكل موثوق الخلايا البلعمية التفاعلية الالتهابية عن الخلايا البلعمية التي تعمل على شفاء الأنسجة.
اقرأ أيضا... تطوير طريقة تجعل صورا طبية مولدة بذكاء اصطناعي كالحقيقية
أحد هذه الجينات الـ 53 يُشفر بروتينًا يسمى جيردين. وكشف تحليل إضافي أنه في الخلايا البلعمية غير الالتهابية، ترتبط منطقة محددة من بروتين NOD2 بالجيردين. هذا يمنع الالتهاب الجامح، ويزيل الميكروبات الضارة ويسمح بإصلاح الأنسجة التالفة بسبب أمراض الأمعاء الالتهابية. لكن الطفرة الأكثر شيوعًا لمرض كرون في جين NOD2 تحذف الجزء من الجين الذي يرتبط به الجيردين عادةً. هذا يؤدي إلى خلل خطير في التوازن بين الخلايا البلعمية الالتهابية وغير الالتهابية.
قالت المؤلفة الرئيسية للدراسة الدكتورة براديبتا غوش، أستاذة الطب الخلوي والجزيئي في كلية الطب بجامعة كاليفورنيا في سان دييغو "يعمل NOD2 كنظام مراقبة العدوى في الجسم". عند ارتباطه ببروتين جيردين، يكتشف بروتين NOD2 مسببات الأمراض الغازية ويحافظ على التوازن المناعي في الأمعاء عن طريق تحييدها بسرعة. وبدون هذا الارتباط، ينهار نظام المراقبة الذي يقوم بهبروتين NOD2.
ثم أكد الباحثون أهمية التفاعل بين NOD2 وجيردين من خلال مقارنة نماذج فئران مصابة بمرض كرون تفتقر إلى بروتين جيردين بتلك التي تحتوي على جيردين سليم. ووجدوا أن الفئران التي تفتقر إلى جيردين عانت من خلل في ميكروبيوم الأمعاء وأصيبت بالتهاب في الأمعاء الدقيقة. وكثيراً ما ماتت هذه الفئران بسبب الإنتان، وهي حالة يفرط فيها الجهاز المناعي في الاستجابة للعدوى، مما يسبب التهاباً في جميع أنحاء الجسم وتلفاً للأعضاء الحيوية.
وقال الدكتور غاجانان د. كاتكار، الباحث المشارك الأول في الدراسة، والأستاذ المساعد في كلية الطب بجامعة كاليفورنيا في سان دييغو "الأمعاء ساحة معركة، والخلايا البلعمية هي حماة السلام"، مضيفا "لأول مرة، أتاح لنا الذكاء الاصطناعي تحديد وتتبع اللاعبين في الفريقين المتنافسين بوضوح".
من خلال الجمع بين التصنيف المدعوم بالذكاء الاصطناعي، والكيمياء الحيوية الميكانيكية، ونماذج الفئران، تحل هذه الدراسة واحدة من أقدم النقاشات المتعلقة بمرض كرون. ولا تفسر هذه النتائج كيفية تسبب طفرة جينية رئيسية في المرض فحسب، بل يمكن أن تساهم أيضاً في تطوير علاجات تهدف إلى استعادة العلاقة بين جيردين وNOD2.
مصطفى أوفى (أبوظبي)
محافظ أسيوط يتفقد إنشاء أول معرض دائم لمنتجات المحافظة أسفل كوبري فيصل