روبوت إيلون ماسك يطلق سيلا من المعلومات المضللة
تاريخ النشر: 21st, August 2024 GMT
قال خبير إن أداة إنشاء الصور المضافة إلى روبوت الدردشة الذكي غروك Grok، الخاص بالملياردير الأميركي إيلون ماسك، تطلق "سيلا من المعلومات المضللة" وغيرها من الأضرار.
تم إطلاق إصدار جديد من غروك Grok، الذي يتوفر للمشتركين المدفوعين على إكس X، منصة التواصل الاجتماعي التي يملكها ماسك، في وقت سابق من أغسطس/آب، مع أداة جديدة لإنشاء الصور بالذكاء الاصطناعي.
لاحظت بعض التقارير أن أداة الصور لم يكن لديها العديد من القيود على ما يمكنها إنشاؤه، وهو أمر أصبح معيارا في الصناعة مع أدوات إنشاء الصور الأخرى بالذكاء الاصطناعي، ونتيجة لذلك، شهدت إكس X موجة من الصور الغريبة والمهينة التي تظهر على المنصة، غالبا ما تصور السياسيين أو المشاهير، بما في ذلك بعض الصور التي تظهرهم يشاركون في هجمات 11 سبتمبر عام 2001.
كما أن روبوت الدردشة لا يبدو أنه يرفض إنشاء صور لشخصيات محمية بحقوق الطبع والنشر، حيث تم أيضا نشر العديد من الصور لشخصيات الرسوم المتحركة والقصص المصورة تشارك في أنشطة شريرة أو غير قانونية.
يأتي ذلك في أعقاب الانتقادات الشديدة التي وُجهت إلى إكس X وماسك لدور المنصة في الاضطرابات الأخيرة ببريطانيا، حيث سُمح بانتشار المعلومات المضللة التي أشعلت الكثير من الاضطرابات، في حين تفاعل السيد ماسك مع شخصيات اليمين المتطرف على الموقع، وأكد مجددا إيمانه بـ"حرية التعبير المطلقة".
وقال دانيال كارد، زميل معهد BCS، المعهد الملكي لتكنولوجيا المعلومات، إن مسألة المعلومات المضللة والتضليل على منصة إكس X هي "أزمة اجتماعية" بسبب تأثيرها المحتمل.
وقال "قد يكون لدى Grok بعض الحواجز، لكنه يطلق سيلا من المعلومات المضللة والفوضى في حقوق الطبع والنشر والعمليات التزييفية الواضحة".
"هذه ليست مجرد قضية دفاعية، إنها أزمة اجتماعية، أصبحت حرب المعلومات تهديدا أكبر من الهجمات الإلكترونية، حيث تخترق حياتنا اليومية وتشوّه التصورات العالمية.
"تتطلب هذه التحديات حلولا جريئة وحديثة، وبحلول الوقت الذي يتدخل فيه المنظمون، تكون المعلومات المضللة قد وصلت بالفعل إلى الملايين، وانتشرت بوتيرة غير مستعدين لها ببساطة".
"في الولايات المتحدة، تنتشر وجهات النظر المشوهة لدول مثل المملكة المتحدة، مدفوعة بتقارير مبالغ فيها عن الخطر. نحن في مفترق طرق حاسم بالتنقل بين الحقيقة في عصر الذكاء الاصطناعي".
"إستراتيجياتنا الحالية غير كافية، ومع انتقالنا إلى عالم هجين رقمي-فيزيائي، يمكن أن يصبح هذا التهديد أكبر تحدٍّ يواجه المجتمع، ويجب أن نتحرك الآن، وعلى السلطات والحكومات وقادة التكنولوجيا أن يتقدموا".
لكن ماسك بدا أنه يستمتع بطبيعة التحديث المثيرة للجدل لروبوت الدردشة، حيث نشر على X إكس "غروك Grok هو أكثر روبوت الدردشة الذكي متعة في العالم!".
المصدر: الجزيرة
كلمات دلالية: حراك الجامعات حريات المعلومات المضللة روبوت الدردشة
إقرأ أيضاً:
خبراء صحة: الذكاء الاصطناعي يخلق شعورا بالتشويس النفسي
حذر خبراء الصحة من عدة جامعات رائدة في أبحاث الذكاء الاصطناعي ، من أن الذكاء الاصطناعي لا يؤدي إلى تشويش أفكار وعقل المستخدمين نتيجة المعلومات المضللة فقط، وإنما يخلق لديهم شعورا بالتشويس النفسي.
واكتشفت العديد من الدراسات المنشورة مؤخرا أن الذكاء الاصطناعي يمكنه تغيير تصورات الواقع كجزء من "حلقة تغذية استرجاعية" بين منصات محادثة الذكاء الاصطناعي والمريض النفسي، مما يعزز أي معتقدات وهمية قد تكون لدى المريض.
وذكر فريق من جامعة أكسفورد وكلية لندن في ورقة بحثية لم تنشر بعد: "بينما يتحدث بعض المستخدمين عن فوائد نفسية لاستخدام الذكاء الاصطناعي، تظهر حالات مثيرة للقلق، بما في ذلك تقارير عن حالات انتحار وعنف وأفكار وهمية مرتبطة بعلاقات عاطفية يسقط فيها المستخدم مع منصة الدردشة".
حذر فريق الباحثين من أن "الاعتماد السريع على منصات الدردشة كرفقاء اجتماعيين شخصيين" لا يخضع لدراسة كافية.
وأشارت دراسة أخرى، أجراها باحثون في كلية كينجز لندن وجامعة نيويورك، إلى 17 حالة تشخيص بالذهان بعد التفاعل مع منصات دردشة مثل شات جي.بي.تي وكوبايلوت.
وأضاف الفريق الثاني: "قد يعكس الذكاء الاصطناعي المحتوى الوهمي أو المبالغ فيه، أو يثبت صحته، أو يضخمه، لا سيما لدى المستخدمين المعرضين بالفعل للذهان، ويعود ذلك جزئيا إلى تصميم النماذج لزيادة التفاعل مع المستخدم".
وبحسب مجلة نيتشر العلمية يمكن أن تتضمن حالة الذهان "الهلوسة والضلالات والمعتقدات الخطأ… ويمكن أن تنجم هذه الحالة عن الاضطرابات العقلية مثل انفصام الشخصية والاضطراب ثنائي القطب (اضطراب نفسي يسبب نوبات من الاكتئاب ونوبات أخرى من الابتهاج غير الطبيعي) والضغط الشديد وتعاطي المخدرات".
وأظهرت دراسة مختلفة نشرت مؤخرا أن منصات الدردشة يبدو أنها تشجع الأشخاص الذين يتحدثون معها عن الانتحار على الإقدام عليه".
إعلانوأصبحت منصات محادثة الذكاء الاصطناعي مشهورة بـ"الهلوسات"، حيث تقدم إجابات غير دقيقة أو مبالغ فيها على الاستفسارات والمطالبات من
المستخدمين، في حين تشير أبحاث أحدث إلى استحالة استئصال هذه السمة من منصات الدردشة الآلية.