احذر الحصول على أخبارك من روبوتات الدردشة المدعمة بالذكاء الاصطناعي

 هذا هو تذكيرك الدوري بأن روبوتات الدردشة التي تعمل بالذكاء الاصطناعي لا تزال تختلق الأشياء وتكذب بكل ثقة نظام تحديد المواقع العالمي (GPS) الذي يخبرك أن أقصر طريق إلى المنزل هو القيادة عبر البحيرة.

 تذكيري يأتي بفضل Nieman Lab، الذي أجرى تجربة لمعرفة ما إذا كان ChatGPT سيوفر روابط صحيحة لمقالات من المنشورات الإخبارية التي يدفع لها ملايين الدولارات.

اتضح أن ChatGPT لا يفعل ذلك، وبدلاً من ذلك، فهو ينشئ بكل ثقة عناوين URL كاملة، وهي ظاهرة تسميها صناعة الذكاء الاصطناعي "الهلوسة"، وهو مصطلح يبدو أكثر ملاءمة لشخص حقيقي منغمس في هرائه.

 

 طلب أندرو ديك من Nieman Lab من الخدمة توفير روابط لقصص حصرية رفيعة المستوى نشرها 10 ناشرين أبرمت OpenAI معهم صفقات بملايين الدولارات. وشملت هذه وكالة أسوشيتد برس، ووول ستريت جورنال، وفايننشال تايمز، والتايمز (المملكة المتحدة)، ولوموند، وإل بايس، وذا أتلانتيك، وذا فيرج، وفوكس، وبوليتيكو. ردًا على ذلك، أرسل ChatGPT عناوين URL مختلقة أدت إلى ظهور 404 صفحة خطأ لأنها ببساطة غير موجودة. بمعنى آخر، كان النظام يعمل تمامًا كما تم تصميمه: من خلال التنبؤ بالإصدار الأكثر ترجيحًا لعنوان URL الخاص بالقصة بدلاً من الاستشهاد فعليًا بالنسخة الصحيحة. أجرى مختبر نيمان تجربة مماثلة مع منشور واحد – Business Insider – في وقت سابق من هذا الشهر وحصل على نفس النتيجة.

 صرح متحدث باسم OpenAI لـ Nieman Lab أن الشركة لا تزال تبني "تجربة تمزج قدرات المحادثة مع أحدث محتوى الأخبار الخاص بها، مما يضمن الإسناد المناسب والربط بمواد المصدر - وهي تجربة محسنة لا تزال قيد التطوير وغير متوفرة بعد في ChatGPT"، لكنهم رفضوا شرح عناوين URL المزيفة.

 لا نعرف متى ستكون هذه التجربة الجديدة متاحة أو مدى موثوقيتها. على الرغم من ذلك، يواصل ناشرو الأخبار تغذية سنوات من الصحافة في فخ OpenAI الهائل مقابل أموال باردة وصعبة لأن صناعة الصحافة فشلت باستمرار في معرفة كيفية كسب المال دون بيع روحها لشركات التكنولوجيا. وفي الوقت نفسه، تقوم شركات الذكاء الاصطناعي بقمع المحتوى الذي ينشره أي شخص لم يوقع على هذه الصفقات الفاوستية، وتستخدمه لتدريب نماذجها على أي حال. مصطفى سليمان، رئيس قسم الذكاء الاصطناعي في مايكروسوفت، وصف مؤخرًا أي شيء منشور على الإنترنت بأنه "برنامج مجاني" يمثل لعبة عادلة لتدريب نماذج الذكاء الاصطناعي. بلغت قيمة Microsoft 3.36 تريليون دولار في الوقت الذي كتبت فيه هذا.

 هناك درس هنا: إذا كان ChatGPT يختلق عناوين URL، فهو يختلق الحقائق أيضًا. هذه هي الطريقة التي يعمل بها الذكاء الاصطناعي التوليدي - في جوهرها، تعد التكنولوجيا نسخة أكثر روعة من الإكمال التلقائي، حيث تقوم ببساطة بتخمين الكلمة المعقولة التالية في التسلسل. فهو لا "يفهم" ما تقوله، على الرغم من أنه يتصرف على هذا النحو. لقد حاولت مؤخرًا الحصول على روبوتات الدردشة الرائدة لدينا لمساعدتي في حل مشكلة التهجئة في New York Times Spelling Bee وشاهدتها وهي تتعطل وتحترق.

 إذا لم يتمكن الذكاء الاصطناعي التوليدي من حل لعبة Spelling Bee، فلا يجب عليك استخدامها للحصول على الحقائق الخاصة بك.

المصدر: بوابة الوفد