معهد “إم.آي.تي” الأمريكي يطور تقنية لتدقيق إجابات الذكاء الاصطناعي ورصد أخطائه
تاريخ النشر: 3rd, November 2024 GMT
يمن مونيتور/ د ب أ
يطور معهد ماساشوستس للتكنولوجيا (إم.تي.آي) تقنية جديدة للمساعدة في اكتشاف “هلوسة” تطبيقات الذكاء الاصطناعي وهو مصطلح يشير إلى الإجابات غير الدقيقة أو الغريبة التي تقدمها برامج محادثة الذكاء الاصطناعي للرد على أسئلة أو طلبات المستخدمين.
ولمساعدة مدققي الحقائق البشر الذين يتعين عليهم تصفح العديد من المستندات الطويلة والمعقدة التي تستخدمها برامج محادثة الذكاء الاصطناعي أحيانا للتوصل إلى الإجابات، ابتكر علماء ومهندسون إم.
وأطلق الباحثون اسم “سيمجين” على التقنية الجديدة والمطلوبة حاليا بشدة لأن عمليات التحقق من صحة إجابات أنظمة الذكاء الاصطناعي الحالية يمكن أن تكون مرهقة وتؤدي إلى وجود أخطأ، إلى الدرجة التي قد تدفع البعض إلى عدم استخدام أنظمة الذكاء الاصطناعي كاختيار أول.
وقال معهد ماساتشوستس للتكنولوجيا أن أداة “سيمجين” تقدم إجابات برامج محادثات الذكاء الاصطناعي المعتمدة على نماذج اللغة الكبيرة من خلال “مقتطفات تشير مباشرة إلى مكان المعلومة في المصدر الأصلي مثل خلية معينة في قاعدة البيانات”. ويقال إن النظام يقلل وقت التحقق بنحو 20%، مما قد يتغلب على بعض الجوانب السلبية الأكثر إزعاجا لاستخدام برامج المحادثة التي تعمل بالذكاء الاصطناعي.
وقال شانون شين الباحث في معهد إم.آي.تي، إن أداة سيمجين تستطيع منح الناس قدرا أكبر من الثقة في ردود نماذج اللغة الكبيرة لأنهم يستطيعون بسهولة إلقاء نظرة أقرب على المحتوى لضمان تحقيق المعلومات المقدمة.
واعترف الباحثون بأن الأداة الجديدة لا تستطيع حاليا العمل إلا مع جداول التدقيق أو غيرها مصادر البيانات المنظمة. كما أنها مقيدة في عملها “بجودة بيانات المصدر” المستخدمة لتدريب نموذج الذكاء الاصطناعي.
لن يتم نشر عنوان بريدك الإلكتروني. الحقول الإلزامية مشار إليها بـ *
التعليق *
الاسم *
البريد الإلكتروني *
الموقع الإلكتروني
احفظ اسمي، بريدي الإلكتروني، والموقع الإلكتروني في هذا المتصفح لاستخدامها المرة المقبلة في تعليقي.
Δ
شاهد أيضاً إغلاق ميديانور سبتمبر يطل علينا رغم العتمة، أَلقاً وضياءً، متفوقاً على...
تم مشاهدة طائر اللقلق مغرب يوم الاحد 8 سبتمبر 2024 في محافظة...
يا هلا و سهلا ب رئيسنا الشرعي ان شاء الله تعود هذه الزيارة ب...
نرحو ايصال هذا الخبر...... أمين عام اللجنة الوطنية للطاقة ال...
عندما كانت الدول العربية تصارع الإستعمار كان هذا الأخير يمرر...
المصدر: يمن مونيتور
كلمات دلالية: الذکاء الاصطناعی إم آی تی
إقرأ أيضاً:
مفتي الأردن: يجب وضع ضوابط شرعية لاستخدام الذكاء الاصطناعي في الفتوى
أكَّد سماحة الشيخ الدكتور أحمد الحسنات، مفتي المملكة الأردنية الهاشمية، أهمية تسخير الذكاء الاصطناعي لخدمة الفتوى والقضايا الكبرى للأمة الإسلامية، مع ضرورة وضع معايير وضوابط أخلاقية منسجمة مع قواعد الشريعة لضبط استخدامه، مشددًا على أن "الوسائل تأخذ حكم المقاصد".
جاء ذلك في كلمته التي ألقاها خلال فعاليات جلسة الوفود بالمؤتمر العالمي العاشر للإفتاء، المنعقد في القاهرة تحت رعاية فخامة الرئيس عبد الفتاح السيسي، بعنوان "صناعة المفتي الرشيد في عصر الذكاء الاصطناعي"، وبحضور علماء ووزراء ومُفتين ومتخصصين من مختلف دول العالم.
وأشار مفتي الأردن إلى أن "العصر الذي تمرُّ به البشرية اليوم من أكثر العصور تعقيدًا لما وصلت إليه من تقدُّم في المجال العلمي والتكنولوجي"، مشيرًا إلى أن هذا التقدم بات يشكل ركيزة أساسية في الحياة اليومية للإنسان المعاصر، وأن العلماء بصفتهم ورثة الأنبياء مطالبون بالاستفادة من هذا العلم وتسخيره لخدمة الأمة.
وأوضح أن الذكاء الاصطناعي يتيح تحليل ومعالجة كَمٍّ هائل من المعلومات الشرعية لتقديم إجابات سريعة ودقيقة، وتصنيف الفتاوى وترتيبها وَفْقَ الموضوعات والمراجع، فضلًا عن الترجمة والتعريب، والتحقق من صحَّة المعلومات؛ ما يسهِّل وصول المستفتين إلى الإجابات الصحيحة بلغات مختلفة.
حكم طاعة الوالدين في الأمر بطلاق الزوجة.. الإفتاء تجيب
حكم تأخير صلاة العشاء إلى ما بعد منتصف الليل.. دار الإفتاء تحسم الجدل
وحذَّر مفتي الأردن من سلبيات الذكاء الاصطناعي، ومنها "التزييف العميق" وتزوير الحقائق ونسبة الأقوال إلى غير أهلها، بما يهدد الأمن الاجتماعي ويزعزع الثقة بالمصادر الموثوقة، مشددًا على ضرورة تأهيل العلماء للتعامل مع هذه التقنيات المعاصرة في خدمة القضايا الكبرى، وعلى رأسها القضية الفلسطينية والمسجد الأقصى المبارك، حيث أدى الذكاء الاصطناعي دَورًا في توجيه الرأي العام العالمي للتعريف بمعاناة الشعب الفلسطيني.
وبين أن من أبرز التحديات أمام المفتي في عصر الذكاء الاصطناعي "غياب البُعد الإنساني"، إذ تعتمد الآلة على المعلومات المتاحة فحسب، دون مراعاة الحالة النفسية أو الظروف الاجتماعية للمستفتي، وهو ما يجعلها أداةً مساعدة للمفتي المتخصص لكنها لا تستطيع بمفردها إصدار فتوى مكتملة الأركان، لأن الفتوى تتغير بتغير الأشخاص والأزمنة والأماكن والظروف.
واختتم سماحة مفتي الأردن كلمته بالتأكيد على أن الذكاء الاصطناعي "مجرد آلة صماء" لا تخضع لمعايير دينية أو أخلاقية، وقد يقدم معلومات مغلوطة أو فتاوى شاذة، مشددًا على وجوب وضع الضوابط الشرعية التي تضمن أن يكون استخدامه في إطار التعاون على البر والتقوى، لا على الإثم والعدوان.
تردد قناة ناشيونال جيوغرافيك بـ نايل سات 2025.. استمتع ببرامج عالم الحيوان والطبيعة