معهد "إم.آي.تي" الأمريكي يطور تقنية لتدقيق إجابات الذكاء الاصطناعي
تاريخ النشر: 3rd, November 2024 GMT
يطور معهد ماساشوستس للتكنولوجيا "إم.تي.آي" تقنية جديدة للمساعدة في اكتشاف "هلوسة" تطبيقات الذكاء الاصطناعي وهو مصطلح يشير إلى الإجابات غير الدقيقة أو الغريبة التي تقدمها برامج محادثة الذكاء الاصطناعي للرد على أسئلة أو طلبات المستخدمين.
يطور معهد ماساشوستس للتكنولوجيا "إم.تي.آي" تقنية جديدة للمساعدة في اكتشاف "هلوسة" تطبيقات الذكاء الاصطناعي وهو مصطلح يشير إلى الإجابات غير الدقيقة أو الغريبة التي تقدمها برامج محادثة الذكاء الاصطناعي للرد على أسئلة أو طلبات المستخدمين.
ولمساعدة مدققي الحقائق البشر الذين يتعين عليهم تصفح العديد من المستندات الطويلة والمعقدة التي تستخدمها برامج محادثة الذكاء الاصطناعي أحياناً للتوصل إلى الإجابات، ابتكر علماء ومهندسون إم.آي.تي "نظاماً سهل الاستخدام" يقولون إنه "يتيح للأشخاص التحقق من إجابات نموذج اللغة الكبير بشكل أسرع بكثير".
وأطلق الباحثون اسم "سيمجين" على التقنية الجديدة والمطلوبة حالياً بشدة، لأن عمليات التحقق من صحة إجابات أنظمة الذكاء الاصطناعي الحالية يمكن أن تكون مرهقة وتؤدي إلى وجود أخطأ، إلى الدرجة التي قد تدفع البعض إلى عدم استخدام أنظمة الذكاء الاصطناعي كاختيار أول.
وقال معهد ماساتشوستس للتكنولوجيا أن أداة "سيمجين" تقدم إجابات برامج محادثات الذكاء الاصطناعي المعتمدة على نماذج اللغة الكبيرة من خلال "مقتطفات تشير مباشرة إلى مكان المعلومة في المصدر الأصلي مثل خلية معينة في قاعدة البيانات".
ويقال إن النظام يقلل وقت التحقق بنحو 20%، مما قد يتغلب على بعض الجوانب السلبية الأكثر إزعاجاً لاستخدام برامج المحادثة التي تعمل بالذكاء الاصطناعي.
وقال شانون شين الباحث في معهد "إم.آي.تي" إن أداة سيمجين تستطيع منح الناس قدراً أكبر من الثقة في ردود نماذج اللغة الكبيرة، لأنهم يستطيعون بسهولة إلقاء نظرة أقرب على المحتوى لضمان تحقيق المعلومات المقدمة.
واعترف الباحثون بأن الأداة الجديدة لا تستطيع حالياً العمل، إلا مع جداول التدقيق أو غيرها مصادر البيانات المنظمة.
كما أنها مقيدة في عملها "بجودة بيانات المصدر" المستخدمة لتدريب نموذج الذكاء الاصطناعي.
تقنية ميتا الجديدة.. الروبوتات تكتسب لمسة ومهارة بشرية - موقع 24تراهن شركة ميتا بشكل كبير على مجال الذكاء الاصطناعي المتجسد الناشئ، من خلال دمج حاسة اللمس والشعور في ابتكاراتها الروبوتي
المصدر: موقع 24
كلمات دلالية: عام على حرب غزة إيران وإسرائيل إسرائيل وحزب الله السنوار الانتخابات الأمريكية غزة وإسرائيل الإمارات الحرب الأوكرانية الذكاء الاصطناعي الذكاء الاصطناعي شات جي بي تي الذکاء الاصطناعی
إقرأ أيضاً:
تليفونك بيراقبك .. كيف تجمع أدوات الذكاء الاصطناعي بياناتك
تجمع أدوات الذكاء الاصطناعي بياناتٍ كثيرةً عن المستخدمين للتنبؤ بسلوكهم وفي المقابل، يمكنك منعها من تتبعك باتباع بعض الخطوات.
مخاوف كبيرةوفقا لموقع" indiatvnews "فمن استخدام مساعدي الذكاء الاصطناعي مثل ChatGPT أو Microsoft Copilot إلى تتبع روتين اللياقة البدنية اليومي باستخدام الساعات الذكية، يتفاعل العديد من الأفراد مع أنظمة أو أدوات الذكاء الاصطناعي يوميًا. وبينما تُعزز هذه التقنيات بلا شك الراحة، إلا أنها تُثير أيضًا مخاوف كبيرة بشأن خصوصية البيانات.
أشار كريستوفر رامزان، الأستاذ المساعد في الأمن السيبراني بجامعة وست فرجينيا، أن برامج الذكاء الاصطناعي التوليدية تعتمد على كميات هائلة من بيانات التدريب لإنتاج محتوى جديد، مثل النصوص أو الصور، بينما يستخدم الذكاء الاصطناعي التنبئي البيانات للتنبؤ بالنتائج بناءً على سلوكك السابق - مثل تقييم احتمالية تحقيق هدفك اليومي من الخطوات أو التوصية بأفلام قد تستمتع بها. يمكن استخدام كلا النوعين من الذكاء الاصطناعي لجمع معلومات عن الأفراد.
كيف تجمع أدوات الذكاء الاصطناعي البيانات
يوضح رامزان أن مساعدي الذكاء الاصطناعي المُولِّدين، مثل ChatGPT وGoogle Gemini، يجمعون جميع المعلومات التي يُدخلها المستخدمون في مربع الدردشة. ويُسجَّل كل سؤال وإجابة ورسالة يُدخلها المستخدمون، ويُخزَّن ويُحلَّل لتحسين نموذج الذكاء الاصطناعي. ويُشير إلى أنه على الرغم من أن OpenAI تُتيح للمستخدمين خيار إلغاء الاشتراك في استخدام المحتوى إلا أنها لا تزال تجمع البيانات الشخصية وتحتفظ بها. ورغم ادعاء بعض الشركات إخفاء هوية هذه البيانات - أي تخزينها دون تحديد هوية مُقدِّميها - إلا أن خطر إعادة تحديد هوية البيانات لا يزال قائمًا.
خصوصية بياناتيوضح رامزان أنه بالإضافة إلى مساعدي الذكاء الاصطناعي ، تجمع منصات التواصل الاجتماعي مثل فيسبوك وإنستجرام وتيك توك بيانات مستخدميها باستمرار لتحسين نماذج الذكاء الاصطناعي التنبؤية.
وعلاوة على ذلك، يشير رامزان إلى أن الأجهزة الذكية، بما في ذلك مكبرات الصوت المنزلية، وأجهزة تتبع اللياقة البدنية، والساعات الذكية، تجمع المعلومات باستمرار من خلال أجهزة الاستشعار البيومترية، والتعرف على الصوت، وتتبع الموقع..
غالبًا ما تُخزَّن البيانات التي تجمعها أدوات الذكاء الاصطناعي في البداية لدى شركة موثوقة، ولكن يُمكن بيعها أو مشاركتها بسهولة مع مؤسسات قد لا تكون بنفس القدر من الموثوقية ويؤكد أن القوانين الحالية لا تزال قيد التطوير لمواجهة تحديات الذكاء الاصطناعي وخصوصية البيانات.
«التعليم» تحقق في تداول امتحان اللغة الأجنبية الثانية للثانوية العامة 2025 على تليجرام