معهد “إم.آي.تي” الأمريكي يطور تقنية لتدقيق إجابات الذكاء الاصطناعي ورصد أخطائه
تاريخ النشر: 3rd, November 2024 GMT
يمن مونيتور/ د ب أ
يطور معهد ماساشوستس للتكنولوجيا (إم.تي.آي) تقنية جديدة للمساعدة في اكتشاف “هلوسة” تطبيقات الذكاء الاصطناعي وهو مصطلح يشير إلى الإجابات غير الدقيقة أو الغريبة التي تقدمها برامج محادثة الذكاء الاصطناعي للرد على أسئلة أو طلبات المستخدمين.
ولمساعدة مدققي الحقائق البشر الذين يتعين عليهم تصفح العديد من المستندات الطويلة والمعقدة التي تستخدمها برامج محادثة الذكاء الاصطناعي أحيانا للتوصل إلى الإجابات، ابتكر علماء ومهندسون إم.
وأطلق الباحثون اسم “سيمجين” على التقنية الجديدة والمطلوبة حاليا بشدة لأن عمليات التحقق من صحة إجابات أنظمة الذكاء الاصطناعي الحالية يمكن أن تكون مرهقة وتؤدي إلى وجود أخطأ، إلى الدرجة التي قد تدفع البعض إلى عدم استخدام أنظمة الذكاء الاصطناعي كاختيار أول.
وقال معهد ماساتشوستس للتكنولوجيا أن أداة “سيمجين” تقدم إجابات برامج محادثات الذكاء الاصطناعي المعتمدة على نماذج اللغة الكبيرة من خلال “مقتطفات تشير مباشرة إلى مكان المعلومة في المصدر الأصلي مثل خلية معينة في قاعدة البيانات”. ويقال إن النظام يقلل وقت التحقق بنحو 20%، مما قد يتغلب على بعض الجوانب السلبية الأكثر إزعاجا لاستخدام برامج المحادثة التي تعمل بالذكاء الاصطناعي.
وقال شانون شين الباحث في معهد إم.آي.تي، إن أداة سيمجين تستطيع منح الناس قدرا أكبر من الثقة في ردود نماذج اللغة الكبيرة لأنهم يستطيعون بسهولة إلقاء نظرة أقرب على المحتوى لضمان تحقيق المعلومات المقدمة.
واعترف الباحثون بأن الأداة الجديدة لا تستطيع حاليا العمل إلا مع جداول التدقيق أو غيرها مصادر البيانات المنظمة. كما أنها مقيدة في عملها “بجودة بيانات المصدر” المستخدمة لتدريب نموذج الذكاء الاصطناعي.
لن يتم نشر عنوان بريدك الإلكتروني. الحقول الإلزامية مشار إليها بـ *
التعليق *
الاسم *
البريد الإلكتروني *
الموقع الإلكتروني
احفظ اسمي، بريدي الإلكتروني، والموقع الإلكتروني في هذا المتصفح لاستخدامها المرة المقبلة في تعليقي.
Δ
شاهد أيضاً إغلاق ميديانور سبتمبر يطل علينا رغم العتمة، أَلقاً وضياءً، متفوقاً على...
تم مشاهدة طائر اللقلق مغرب يوم الاحد 8 سبتمبر 2024 في محافظة...
يا هلا و سهلا ب رئيسنا الشرعي ان شاء الله تعود هذه الزيارة ب...
نرحو ايصال هذا الخبر...... أمين عام اللجنة الوطنية للطاقة ال...
عندما كانت الدول العربية تصارع الإستعمار كان هذا الأخير يمرر...
المصدر: يمن مونيتور
كلمات دلالية: الذکاء الاصطناعی إم آی تی
إقرأ أيضاً:
توم كروز فى فيصل.. كيف شكل الذكاء الاصطناعي ملامح جديدة للمشاهير؟
تحول عدد من مشاهير العالم إلى شخصيات مثيرة للجدل، ولكن ليس بسبب أحداث واقعية، بل عبر صور مفبركة أنشأها الذكاء الاصطناعي، وتداولها الملايين على منصات التواصل الاجتماعي، ما خلق حالة من التضليل والارتباك.
في واحدة من أحدث الصور المتداولة، ظهرت عارضة الأزياء الإسبانية جورجينا رودريغيز وهي ترتدي الحجاب وملابس محتشمة.
في يناير 2025، ضجت مواقع التواصل الاجتماعي بأربع صور تُظهر نجم المصارعة الأمريكي جون سينا حاملاً ما قيل إنه "القرآن الكريم"، في لحظة يُفترض أنها توثق اعتناقه الإسلام.
إلا أن تحليلا دقيقا للصور كشف تناقضات لافتة، أبرزها تغير غلاف الكتاب بين صورة وأخرى، وظهور عبارات غير مفهومة على الغلاف، إلى جانب خلفيات ضبابية غير دقيقة، مما أكد أن الصور ناتجة عن تقنيات الذكاء الاصطناعي.
إيلون ماسك ومحرك "يعمل بالماء"وفي ديسمبر 2024، ظهرت صورة تنسب للملياردير الأمريكي إيلون ماسك وهو يستعرض محركا جديدا يعمل بالماء فقط، في ادعاء صاحبه أنه اختراع من شركة تسلا "لا ينتج سوى بخار الماء".
لكن بالرجوع إلى مصادر الصورة الأصلية، تبين أنها نُشرت على حساب باسم "The Jet Fighter" المعروف بمشاركته لمحتوى خيالي وغير دقيق، وأثبتت أدوات فحص الصور أن الصورة مفبركة بنسبة تفوق 98%.
"سيلفي" مع توم كروز في شارع فيصللم تتوقف الظاهرة عند الصور المفبركة لأغراض التضليل، بل شقّت طريقها إلى الإبداع الفني أيضا، إذ نشر د. أشرف حمدي، مخرج رسوم متحركة، صورة ذاتية (سيلفي) صممها باستخدام الذكاء الاصطناعي تُظهره إلى جانب النجم العالمي توم كروز في أحد شوارع القاهرة.
الصورة التي بدت واقعية للغاية، حازت على إعجاب وتفاعل واسع، خاصة بعد أن شارك حمدي خطوات تصميمها، موجهاا نصائح للراغبين في تجربة أدوات الذكاء الاصطناعي في الفن الرقمي.
وتشير تلك الامج إلى المتزايدة للذكاء الاصطناعي على خلق محتوى بصري يصعب تمييزه عن الواقع إلا أن استمرار انتشار هذه الظاهرة، يؤكد الحاجة الملحة إلى التحقق من المصادر والتوعية بالطرق التي يمكن من خلالها كشف الصور المزيفة.
ريانة البرناوي: أكثر من 80 ألف طالب شاركوا في مسابقة “الفضاء مداك” ..فيديو