وائل بدوي: مساع في الاتحاد الأوروبي لصياغة ميثاق التعامل مع مخرجات الاصطناعي
تاريخ النشر: 18th, August 2023 GMT
قال الدكتور وائل بدوي أستاذ بكلية الحاسبات والذكاء الاصطناعي في جامعة هارتفوردشاير، إن هناك مساعٍ في الاتحاد الأوروبي لصياغة ميثاق من أجل التعامل مع مخرجات الذكاء الاصطناعي، فأصبح أغلب من يستعملون هذه التقنيات ينوهون بأن المحتويات التي أنتجوها تمت بالذكاء الاصطناعي.
وأضاف بدوي، في حواره ببرنامج «صباح الخير يا مصر»، المُذاع على القناة الأولى والفضائية المصرية، تقديم الإعلاميين مصطفى كفافي وبسنت الحسيني: «فيما يتعلق بالذكاء الاصطناعي، يجب أن تكون المعلومات المستخدمة صحيحة، كما أن التواصل بين الناس بمخرجات الذكاء الاصطناعي يتم عبر الإنترنت وميتافيرس والسوشيال ميديا وكلها مفتوحة لجهات يمكنها أن تراقبها».
وأوضح، أن هناك اتجاه عام في شركات النشر الكبيرة بأن أي بحث ساعدت تقنيات الذكاء الاصطناعي في إعادة صياغته يجب أن يشير الباحث إلى ذلك، لافتًا إلى وجود برمجيات يمكنها تحديد مدى نسبة الاقتباس أو النقل من أبحاث وكتب أخرى، كما يمكن تحديد ما إذا كان الطالب نقل إجابته من طالب آخر بالكلية أم لا، بالإضافة إلى احتمال وجود أجزاء من الإجابات مكونة من الذكاء الاصطناعي أم لا.
المصدر: البوابة نيوز
كلمات دلالية: الاتحاد الأوروبي الذكاء الاصطناعي الفضائية المصرية القناة الأولى الذکاء الاصطناعی
إقرأ أيضاً:
كيف ينتج الذكاء الاصطناعي معلومات خاطئة؟
#سواليف
تخيّل أنك تخوض امتحان تاريخ دون استعداد كافٍ، وتعتمد فقط على الحدس في الإجابة، فتربط “1776” بالثورة الأمريكية و”هبوط القمر” بعام 1969. هذا تقريباً ما تفعله نماذج اللغة الكبيرة (LLMs) مثل ChatGPT: إنها لا تفهم أو تفكر، بل “تخمّن” الكلمة التالية بناءً على أنماط شاهدتها في كميات هائلة من النصوص.
هذه الحقيقة تؤكد قوة #نماذج #اللغة_الكبيرة وحدودها، وهذا يقودنا إلى السؤال الأهم: إذا كانت النماذج بهذه الذكاء، فلماذا لا تزال ترتكب الأخطاء، أو تهلوس الحقائق، أو تظهر تحيزاً؟ لفهم ذلك، علينا التعمق في كيفية تعلمها، وفق “إنتريستينغ إنجينيرنغ”.
كيف تعمل هذه النماذج؟
تُقسّم اللغة إلى وحدات صغيرة (رموز) مثل “wash” و”ing”، وتخصص لكل منها وزناً في شبكة عصبية ضخمة، ثم تعدّل هذه الأوزان باستمرار خلال التدريب لتقليل الأخطاء. بمرور الوقت، تتقن هذه النماذج التعرف على الأنماط، لكنها لا “تعرف” الحقائق، فهي فقط تتوقع ما يبدو صحيحاً.
مقالات ذات صلةلماذا تخطئ أو تهلوس؟
لأنها تخمّن. هذا التخمين يؤدي أحياناً إلى “هلوسة” معلومات خاطئة أو مفبركة بثقة، كاختراع مصادر أو استشهادات.
هذه ليست أكاذيب متعمّدة، بل نتيجة لعدم تمييز النموذج بين الصحيح والمزيف.
وفي التطبيقات العملية، يمكن للهلوسة أن تؤدي إلى عواقب وخيمة، وفي البيئات القانونية والأكاديمية والطبية، يمكن للذكاء الاصطناعي اختلاق قوانين ومصادر أو تشخيص الحالات بثقة تامة دون معرفة تاريخ صحة المريض، وهذا يوضح ضرورة مراجعة البشر لأي محتوى ينتجه الذكاء الاصطناعي والتحقق منه، خاصةً في المجالات التي تعدّ فيها الدقة أمراً بالغ الأهمية.
التحيّز والمعرفة القديمة
نظراً لأن النماذج تتعلم من بيانات الإنترنت، فهي معرضة لاكتساب التحيزات الثقافية والجندرية والسياسية المتأصلة في تلك البيانات.
كما أن “معرفتها” مجمّدة زمنياً، فإذا تغير العالم بعد آخر تدريب لها، تصبح استنتاجاتها قديمة.
لماذا يصعب إصلاح هذه الأخطاء؟
يعمل مدربو الذكاء الاصطناعي مع مليارات الاحتمالات، وتدريبهم مرة أخرى من الصفر مكلف من حيث المال والقدرة الحاسوبية، والأسباب متشعبة، منها:
تكلفة تحديث البيانات: تدريب نموذج جديد يتطلب موارد هائلة.
غموض “الصندوق الأسود”: لا يمكن دائماً تفسير لماذا أعطى النموذج استجابة معينة.
محدودية الرقابة البشرية: لا يمكن فحص كل إجابة يخرج بها النموذج.
الحلول المطروحة
وللتغلب على هذه المشكلات، يلجأ المطورون إلى:
التعلّم المعزز بالتغذية الراجعة البشرية (RLHF)، حيث يقيّم البشر مخرجات النموذج لتحسينه.
الذكاء الاصطناعي الدستوري، كما لدى Anthropic، لتدريب النماذج على الالتزام بمبادئ أخلاقية.
مبادرة Superalignment من OpenAI، لتطوير ذكاء اصطناعي يتماشى مع القيم الإنسانية دون إشراف دائم.
قانون الذكاء الاصطناعي في الاتحاد الأوروبي، الذي يضع قواعد صارمة للأنظمة عالية المخاطر.
ما دور المستخدمين؟
#الذكاء_الاصطناعي أداة قوية، لكنه ليس معصوماً. لذا، تظل المراجعة البشرية ضرورية، خاصة في المجالات الحساسة كالقانون والطب والتعليم، فالخطأ الذي يصدر عن الذكاء الاصطناعي، تقع مسؤوليته على البشر، لا على الخوارزميات.
استئناف المحادثات الأميركية الصينية لنزع فتيل الحرب التجارية