هلوسة ذكاء اصطناعي تكشف رقم شخص عشوائي بدل خدمة العملاء!

صراحة نيوز- في حادثة مثيرة للجدل، تسبّب مساعد الذكاء الاصطناعي في تطبيق “واتساب”، المعتمد على نماذج “لاما” من شركة “ميتا”، بتسريب رقم هاتف شخصي لمستخدم لا علاقة له بالشركة، بعد أن طلب أحد الركاب رقم خدمة عملاء شركة القطارات البريطانية “ترانس بينين إكسبريس”، وفقًا لما نقلته صحيفة “ذا غارديان”.

الحادثة وقعت عندما حاول باري سميثورست التواصل مع الشركة بعد تأخر قطاره المتجه إلى مانشستر بيكاديللي، فلجأ إلى مساعد الذكاء في “واتساب” للحصول على رقم خدمة العملاء، ليفاجأ برقم يعود لرجل يُدعى جيمس غراي، لا تربطه أي صلة بالشركة أو بسميثورست.

وعندما أشار سميثورست إلى الخطأ، رد المساعد بالاعتذار، موضحًا أن الرقم تم توليده بشكل عشوائي، وأنه لا يستند إلى قاعدة بيانات دقيقة، على الرغم من ذكره استخدام قواعد بيانات عامة.

الخبير مايك ستانوب علّق على الحادثة قائلًا: “هذا نموذج لفشل خطير في أنظمة الذكاء الاصطناعي، وإذا كانت ميتا تصمم نماذج تعتمد الكذب الأبيض، فعليها توضيح ذلك للمستخدمين”.

أما شركة “ميتا”، فذكرت أن الرقم الذي تم تزويد المستخدم به متاح علنًا على الإنترنت، وقد يتشابه جزئيًا مع رقم خدمة العملاء الحقيقي، مشددة على أن بيانات المستخدمين ليست ضمن قواعد التدريب الخاصة بالنموذج.

وتنضم هذه الواقعة إلى سلسلة من الأخطاء التي ارتكبتها نماذج الذكاء الاصطناعي مؤخرًا، من بينها حالات مشابهة تورط فيها “شات جي بي تي”، حيث قدم معلومات خاطئة حول قضايا حساسة.

المصدر: صراحة نيوز