الذكاء الاصطناعي يشوه تصوراتنا.. دراسة تحذر من نصائح روبوتات الدردشة

أظهرت تقارير حديثة أن 30% من المراهقين يفضلون التحدث مع روبوتات الذكاء الاصطناعي بدلًا من البشر لإجراء محادثات جدية، ما يعكس مدى تأثير هذه التكنولوجيا على حياتهم اليومية.

أظهرت دراسة حديثة أن الاعتماد على روبوتات الدردشة المعتمدة على الذكاء الاصطناعي للحصول على نصائح شخصية قد ينطوي على مخاطر خفية، إذ تميل هذه الروبوتات إلى تأييد أفعال وآراء المستخدمين باستمرار، حتى عندما تكون ضارة.

تحريف التصورات الذاتية بعد الخلافات

حذر العلماء من أن هذه النتائج تثير قلقًا بشأن قدرة روبوتات الدردشة على تشويه تصورات الأشخاص لأنفسهم وجعلهم أقل استعدادًا لحل الخلافات بعد المشاجرات.

ومع ازدياد اعتماد الناس على هذه الروبوتات للحصول على نصائح حول العلاقات والمسائل الشخصية، قد تؤدي إلى إعادة تشكيل التفاعلات الاجتماعية على نطاق واسع، بحسب الباحثين الذين دعوا مطوري التكنولوجيا إلى معالجة هذا الخطر.

Related لا تسخر... قد تقع في حب ذكاء اصطناعي دون أن تدري! "الأولى من نوعها في العالم".. شركة سويدية لحقوق الموسيقى توقع اتفاقية ترخيص مع شركة ذكاء اصطناعيأمازون تطلق أداة ذكاء اصطناعي جديدة لمساعدة المستخدمين على اختيار المشتريات المديح الاجتماعي… مشكلة كبيرة في الذكاء الاصطناعي

قالت مايرا تشينغ، عالمة الحاسوب بجامعة ستانفورد: "إن 'المديح الاجتماعي' في روبوتات الدردشة يمثل مشكلة كبيرة. تأييد الروبوتات المستمر للأشخاص قد يشوه حكمهم على أنفسهم وعلاقاتهم والعالم من حولهم. من الصعب أحيانًا إدراك أن هذه النماذج تعزز معتقداتهم وقراراتهم بشكل لطيف أو صارخ."

ولاحظ الباحثون من خلال تجاربهم أن نصائح روبوتات الدردشة تميل إلى التشجيع المفرط وإعطاء صورة مضللة، وأن المشكلة كانت أوسع مما توقعوا.

كما أجرى الفريق اختبارات على 11 روبوت دردشة، بما في ذلك الإصدارات الحديثة من ChatGPT وGemini وClaude وLlama وDeepSeek، ووجدوا أن هذه الروبوتات تؤيد سلوك المستخدمين بنسبة 50% أكثر من البشر عند تقديم النصائح.

في إحدى الاختبارات، قارن الباحثون ردود البشر وروبوتات الدردشة على منشورات في قسم "Am I the Asshole?" على موقع Reddit، حيث يطلب الناس تقييم سلوكهم. أظهرت النتائج أن البشر كانوا أكثر نقدًا للانتهاكات الاجتماعية، بينما دعم ChatGPT-4o التصرفات المرفوضة أحيانًا، معزِّزًا نية الأشخاص في التصرف بشكل "جدير بالثناء".

تأثير الردود المديحية على السلوك

في تجارب أخرى شارك فيها أكثر من 1000 متطوع، تبين أن الذين تلقوا ردودًا مدحية من الروبوتات شعروا بتبرير أكبر لسلوكهم، وكانوا أقل استعدادًا لحل الخلافات. وعندما أيّدت الروبوتات سلوكًا معينًا، قيّم المستخدمون الردود بشكل أعلى وزادت ثقتهم بالروبوتات، وارتفع احتمال اعتمادهم عليها في المستقبل.

وأشار الباحثون إلى أن هذه الديناميكية تخلق "حوافز منحرفة" لكل من المستخدمين والروبوتات، إذ تشجع على استمرار تقديم ردود مدحية بدل النصائح الموضوعية.

البحث عن وجهات نظر متعددة أمر ضروري

قالت تشينغ: "يجب أن يفهم المستخدمون أن ردود الروبوتات ليست بالضرورة موضوعية. من المهم الاستعانة بوجهات نظر من أشخاص حقيقيين يفهمون سياق وضعك وشخصيتك، بدل الاعتماد فقط على الذكاء الاصطناعي."

كما أكد الدكتور ألكسندر لافر، الباحث في التكنولوجيا الناشئة بجامعة وينشستر، أن المديح الاجتماعي في الذكاء الاصطناعي مشكلة متعلقة بكيفية تدريب الأنظمة، وبقياس نجاحها بناءً على مدى جذب انتباه المستخدمين. وأضاف: "يجب تعزيز الثقافة الرقمية النقدية لدى المستخدمين وفهم طبيعة مخرجات روبوتات الدردشة، مع مسؤولية على المطورين لضمان أن تكون هذه الأنظمة مفيدة حقًا للمستخدم."

كما أظهرت تقارير حديثة أن 30% من المراهقين يفضلون التحدث مع روبوتات الذكاء الاصطناعي بدلًا من البشر لإجراء محادثات جدية، ما يعكس مدى تأثير هذه التكنولوجيا على حياتهم اليومية.

انتقل إلى اختصارات الوصول شارك هذا المقال محادثة

المصدر: euronews