تحذير من افتقار الذكاء الاصطناعي إلى الشفافية
تاريخ النشر: 19th, October 2023 GMT
تفتقر نماذج الذكاء الاصطناعي التي تكاثرت منذ إطلاق "تشات جي بي تي" إلى الشفافية في تصميمها، ما يشكل خطراً على التطبيقات التي ترتكز إليها تقنياً، بحسب دراسة أجرتها جامعة ستانفورد ونُشِرَت نتائجها أمس الأربعاء.
وبيّن مؤشر جديد وضعه وأجرى حسابات على أساسه باحثون في هذه الجامعة، الواقعة في ولاية كاليفورنيا الأميركية، أن الأكثر شفافية بين النماذج العشرة التي أُخضِعَت للتقويم هو Llama 2 ("لاما 2")، وهو نظام ذكاء اصطناعي أطلقته مجموعة "ميتا" في يوليو الفائت ويمكن إعادة استخدامه.
لكنّ هذا النموذج لا يوفّر في الواقع إلا 54 في المئة من الشفافية المطلوبة، وهي نسبة غير كافية مقارنة بما يجب أن يحققه لكي يكون شفافاً، وفقاً لمعدّي الدراسة.
أما "تشات جي بي تي-4"، وهو المنتَج الرئيسي لشركة "أوبن إيه آي" التي تنتج روبوت ""تشات جي بي تي" الشهير والممَوَّلَة من شركة "مايكروسوفت"، فلا تتعدى درجة شفافيته 48 في المئة.
وحصلت على مراتب أدنى نماذج أخرى تلقى رواجاً، بينها "بالم-2" من "جوجل" و"كلود 2" من "انثروبيك" (الممولة من "أمازون").
وأوضح ريشي بوماساني مدير الأبحاث في جامعة ستانفورد، في بيان، أن درجة الشفافية المطلوب توافرها في ما يسمى "نماذج التأسيس" يجب أن تراوح بين 80 في المئة و100 في المئة".
وأوضح معدّو الدراسة أن الافتقار إلى الشفافية "يصعّب على الشركات معرفة ما إذا كان بإمكانها بناء تطبيقات بأمان تقوم على هذه النماذج، وعلى الأكاديميين الاعتماد على هذه النماذج في أبحاثهم".
لاحظت الدراسة أن "معظم الشركات لا تفصح عن مدى المحتوى المحميّ بحقوق المؤلف والمستخدم لتدريب نموذجها. كذلك لا تكشف الشركات عن استخدام العمالة البشرية لتصحيح بيانات التدريب، الأمر الذي قد يكون مشكلة كبيرة".
وأعرب بوماساني عن أسفه لكون "أي شركة لا تقدّم معلومات عن عدد المستخدمين الذين يعتمدون على نماذجها، ولا إحصاءات عن البلدان أو الأسواق التي تستخدمها".
وشرح معدّو الدراسة أن صنّاع السياسات والعاملين في الهيئات الناظمة يستطيعون استخدام مؤشر الشفافية هذا في المستقبل. وأعلن الاتحاد الأوروبي والولايات المتحدة والصين والمملكة المتحدة وكندا عن رغبتهم في ظهور ذكاء اصطناعي أكثر شفافية.
ورأى الرئيس الأميركي جو بايدن في يوليو الفائت، مخاطباً قادة الشركات العاملة في هذا القطاع، أن "الذكاء الاصطناعي يمثل وعداً كبيراً وضخماً بفرص مذهلة، ولكنه يمثل أيضاً مخاطر على مجتمعنا واقتصادنا وأمننا القومي".
كان هذا الموضوع على رأس أولويات قمة مجموعة السبع في اليابان في شهر مايو الماضي، ومن المقرر أن تستضيف بريطانيا قمة دولية حول الذكاء الاصطناعي في نوفمبر المقبل. أخبار ذات صلة
المصدر: صحيفة الاتحاد
كلمات دلالية: الذكاء الاصطناعي الشفافية تشات جي بي تي الذکاء الاصطناعی فی المئة
إقرأ أيضاً:
حكم استفتاء شات جي بي تي وتطبيقات الذكاء الاصطناعي .. أمين الفتوى يجيب
ورد إلى الشيخ هشام ربيع، أمين الفتوى في دار الإفتاء المصرية، سؤال يقول "ما حكم استفتاء شات جي بي تي وحكم استعمال تطبيقات الذكاء الاصطناعي في معرفة الأحكام الشرعية والاستفتاء؟
وقال الشيخ هشام ربيع، أمين الفتوى في إجابته على السؤال، خلال تصريح تليفزيوني، إن قوله تعالى ( فَاسْأَلُوا أَهْلَ الذِّكْرِ ) هو وسام يوضع على قلب كل مسلم، يكون ينير له الطريق ويرشده إلى الوقت الصحيح لطلب السؤال عن الحكم الشرعي والشخص الذي سيسأله عن هذا الحكم الذي يحتاجه.
وأشار إلى أن شات جي بي تي، ليس من أهل الذكر الذين نأخذ منهم الأحكام الشرعية في الإسلام، فتطبيقات الذكاء الاصطناعي قد تجيب عن شئ بديهي في الأحكام الشرعية أما أننا نأخذ منها كل الأحكام وبالأخص مسائل الطلاق فلا يجوز ذلك لأن هذه المسائل تحتاج إلى أهل الذكر المتخصصين في الفتوى.
وأشار إلى أن صحابة رسول الله أنفسهم كانوا لا يفتون في الأمور الدينية إذا ابتعدوا عن المدينة، فإذا عادوا إلى المدينة سألوا النبي عن الحكم الشرعي ليأخذوا الإجابة منه.
واستشهد بما روي عن أبي سعيد الخدري قال نزلنا منزلا فأتتنا امرأة فقالت إن سيد الحي سليم لدغ فهل فيكم من راق فقام معها رجل منا ما كنا نظنه يحسن رقية فرقاه بفاتحة الكتاب فبرأ فأعطوه غنما وسقونا لبنا فقلنا أكنت تحسن رقية فقال ما رقيته إلا بفاتحة الكتاب قال فقلت لا تحركوها حتى نأتي النبي صلى الله عليه وسلم فأتينا النبي صلى الله عليه وسلم فذكرنا ذلك له فقال ما كان يدريه أنها رقية اقسموا واضربوا لي بسهم معكم.
ريانة البرناوي: أكثر من 80 ألف طالب شاركوا في مسابقة “الفضاء مداك” ..فيديو