«اليونسكو» تتطلع لتنظيم استخدام الذكاء الاصطناعي التوليدي في التعليم
تاريخ النشر: 7th, September 2023 GMT
نشرت منظمة الأمم المتحدة للتربية والعلم والثقافة «يونسكو» اليوم الخميس أولى مبادئها التوجيهية المتعلقة باستخدام الذكاء الاصطناعي التوليدي في التعليم، وحثت الجهات الحكومية على تنظيم استخدام التكنولوجيا بما يتضمن حماية خصوصية البيانات ووضع قيود تحدد أعمار المستخدمين.
وأطلقت «أوبن إيه.آي» المدعومة من مايكروسوفت في نوفمبر «تشات جي.
حادث أليم.. دفعه طاقم العبارة فابتلعته المياه منذ 48 دقيقة الصين تطلق قمرا صناعيا جديدا للاستشعار عن بعد منذ 4 ساعات
وقد أدى ظهوره إلى إطلاق منافسين مثل أداة «بارد» التابعة لغوغل.
ويستهوي الذكاء الاصطناعي التوليدي الطلاب أيضا، إذ يمكنه استحداث أي شيء بدءا من المقالات وحتى الحسابات الرياضية من خلال بضعة أوامر.
وقالت المديرة العامة المساعدة لشؤون التعليم بالمنظمة ستيفانيا جيانيني لرويترز «إننا نكافح من أجل مواءمة سرعة تحول نظام التعليم في ظل سرعة التغير في التقدم التكنولوجي وتطور نماذج التعلم الآلي».
وأضافت جيانيني «في كثير من الحالات، تتبنى الحكومات والمدارس تقنيات غير مألوفة بشكل جذري، حتى أن كبار خبراء التكنولوجيا لا يرون أنهم يفهمونها».
وفي سلسلة من المبادئ التوجيهية الصادرة في تقرير من 64 صفحة، شددت اليونسكو على الحاجة إلى مناهج ذكاء اصطناعي معتمدة من الحكومات للتعليم المدرسي، وكذلك للتعليم الفني والمهني.
وحثت على منع استخدام الذكاء الاصطناعي التوليدي في المجالات التي قد يحرم المتعلمين فيها من فرص تطوير القدرات المعرفية والمهارات الاجتماعية من خلال ملاحظات العالم الحقيقي والممارسات التجريبية مثل المناقشات مع غيرهم من البشر والتفكير المنطقي المستقل.
المصدر: الراي
كلمات دلالية: الذکاء الاصطناعی التولیدی
إقرأ أيضاً:
كيف ينتج الذكاء الاصطناعي معلومات خاطئة؟
#سواليف
تخيّل أنك تخوض امتحان تاريخ دون استعداد كافٍ، وتعتمد فقط على الحدس في الإجابة، فتربط “1776” بالثورة الأمريكية و”هبوط القمر” بعام 1969. هذا تقريباً ما تفعله نماذج اللغة الكبيرة (LLMs) مثل ChatGPT: إنها لا تفهم أو تفكر، بل “تخمّن” الكلمة التالية بناءً على أنماط شاهدتها في كميات هائلة من النصوص.
هذه الحقيقة تؤكد قوة #نماذج #اللغة_الكبيرة وحدودها، وهذا يقودنا إلى السؤال الأهم: إذا كانت النماذج بهذه الذكاء، فلماذا لا تزال ترتكب الأخطاء، أو تهلوس الحقائق، أو تظهر تحيزاً؟ لفهم ذلك، علينا التعمق في كيفية تعلمها، وفق “إنتريستينغ إنجينيرنغ”.
كيف تعمل هذه النماذج؟
تُقسّم اللغة إلى وحدات صغيرة (رموز) مثل “wash” و”ing”، وتخصص لكل منها وزناً في شبكة عصبية ضخمة، ثم تعدّل هذه الأوزان باستمرار خلال التدريب لتقليل الأخطاء. بمرور الوقت، تتقن هذه النماذج التعرف على الأنماط، لكنها لا “تعرف” الحقائق، فهي فقط تتوقع ما يبدو صحيحاً.
مقالات ذات صلةلماذا تخطئ أو تهلوس؟
لأنها تخمّن. هذا التخمين يؤدي أحياناً إلى “هلوسة” معلومات خاطئة أو مفبركة بثقة، كاختراع مصادر أو استشهادات.
هذه ليست أكاذيب متعمّدة، بل نتيجة لعدم تمييز النموذج بين الصحيح والمزيف.
وفي التطبيقات العملية، يمكن للهلوسة أن تؤدي إلى عواقب وخيمة، وفي البيئات القانونية والأكاديمية والطبية، يمكن للذكاء الاصطناعي اختلاق قوانين ومصادر أو تشخيص الحالات بثقة تامة دون معرفة تاريخ صحة المريض، وهذا يوضح ضرورة مراجعة البشر لأي محتوى ينتجه الذكاء الاصطناعي والتحقق منه، خاصةً في المجالات التي تعدّ فيها الدقة أمراً بالغ الأهمية.
التحيّز والمعرفة القديمة
نظراً لأن النماذج تتعلم من بيانات الإنترنت، فهي معرضة لاكتساب التحيزات الثقافية والجندرية والسياسية المتأصلة في تلك البيانات.
كما أن “معرفتها” مجمّدة زمنياً، فإذا تغير العالم بعد آخر تدريب لها، تصبح استنتاجاتها قديمة.
لماذا يصعب إصلاح هذه الأخطاء؟
يعمل مدربو الذكاء الاصطناعي مع مليارات الاحتمالات، وتدريبهم مرة أخرى من الصفر مكلف من حيث المال والقدرة الحاسوبية، والأسباب متشعبة، منها:
تكلفة تحديث البيانات: تدريب نموذج جديد يتطلب موارد هائلة.
غموض “الصندوق الأسود”: لا يمكن دائماً تفسير لماذا أعطى النموذج استجابة معينة.
محدودية الرقابة البشرية: لا يمكن فحص كل إجابة يخرج بها النموذج.
الحلول المطروحة
وللتغلب على هذه المشكلات، يلجأ المطورون إلى:
التعلّم المعزز بالتغذية الراجعة البشرية (RLHF)، حيث يقيّم البشر مخرجات النموذج لتحسينه.
الذكاء الاصطناعي الدستوري، كما لدى Anthropic، لتدريب النماذج على الالتزام بمبادئ أخلاقية.
مبادرة Superalignment من OpenAI، لتطوير ذكاء اصطناعي يتماشى مع القيم الإنسانية دون إشراف دائم.
قانون الذكاء الاصطناعي في الاتحاد الأوروبي، الذي يضع قواعد صارمة للأنظمة عالية المخاطر.
ما دور المستخدمين؟
#الذكاء_الاصطناعي أداة قوية، لكنه ليس معصوماً. لذا، تظل المراجعة البشرية ضرورية، خاصة في المجالات الحساسة كالقانون والطب والتعليم، فالخطأ الذي يصدر عن الذكاء الاصطناعي، تقع مسؤوليته على البشر، لا على الخوارزميات.
تأجيل محاكمة عاطل بتهمة قتل سيدة فى القناطر الخيرية للخميس المقبل