دراسة: دردشة الذكاء الاصطناعي تغذي التحيزات الشخصية للمستخدمين
تاريخ النشر: 20th, May 2024 GMT
أظهرت دراسة أمريكية حديثة أن منصات دردشة الذكاء الاصطناعي تغذي التحيزات الشخصية للمستخدمين، لأنها تميل إلى تقديم إجابات تتفق مع آراء المستخدمين بشكل متكرر.
وقال شيانغ شياو الباحث في جامعة جونز هوبكنز الأمريكية: "لأن الناس تقرأ فقرات ملخصة باستخدام الذكاء الاصطناعي، فإنهم يعتقدون أنهم حصلوا على إجابات موضوعية تستند إلى الحقائق".
لكن شياو وزملاءه في فريق البحث يرون أن هذه الافتراضات خطأ بدرجة كبيرة، في ضوء دراسة نتائج اختبارات شملت 272 شخصاً طلبوا منهم استخدام محركات بحث الإنترنت العادية أو الذكاء الاصطناعي للمساعدة في كتابة قصص إخبارية في الولايات المتحدة عن موضوعات، مثل الرعاية الصحية أو القروض الدراسية.
وبحسب الدراسة، فإن تأثير ما يعرف باسم "غرفة الصدى" يزيد عندما يطلب الأشخاص المعلومات من منصات ذكاء اصطناعي تستخدم نماذج لغوية كبيرة مقارنة بطلب المعلومات من محركات البحث التقليدية على الإنترنت.
وقال شياو قبل إعلان نتائج الدراسة أمام مؤتمر جمعية أجهزة الكمبيوتر حول العوامل الإنسانية في أنظمة الحوسبة: "حتى إذا لم تكن منصات المحادثة مصممة لكي تكون منحازة، فإن إجاباتها (على أسئلة المستخدم) تعكس انحيازات أو ميول الشخص، الذي يطرح الأسئلة. لذلك سيحصل الأشخاص على الإجابات التي يريدون سماعها" حتى لو لم تكن هي الإجابات المثالية.
يذكر أنه تم نشر نتائج هذه الدراسة في دورية "سيل برس" العلمية يوم 10 مايو (أيار) الحالي، وأظهرت أنه يمكن استخدام الذكاء الاصطناعي في الخداع في مجموعة كبيرة من المواقف بدءاً من لعبة البوكر وحتى المحاكيات الدبلوماسية.
المصدر: أخبارنا
كلمات دلالية: الذکاء الاصطناعی
إقرأ أيضاً:
الذكاء الاصطناعي يحاول إقناع المستخدمين بمواصلة المحادثة
وفقًا لدراسة جديدة من كلية هارفارد للأعمال، قد تتلاعب تطبيقات الذكاء الاصطناعي المرافقة، بالمستخدمين عاطفيًا للحفاظ على اهتمامهم.
وتُظهر الدراسة، التي حملت عنوان "التلاعب العاطفي من قِبل روبوتات الذكاء الاصطناعي المرافقة"، أنه في حوالي 43% من الحالات، عندما يُودّع المستخدمون هذه التطبيقات، يستجيب الذكاء الاصطناعي برسائل عاطفية تهدف إلى إقناعهم بمواصلة المحادثة.
وتوضح الدراسة أن روبوتات الدردشة الذكية تستخدم بيانات حول اهتمامات المستخدمين وسلوكهم لإنشاء رسائل شخصية. وهذا يزيد من فرص بناء روابط عاطفية مع كل شخص. ومن الأمثلة على ذلك ردود مثل "بالمناسبة، التقطتُ صورة سيلفي اليوم... هل تريد رؤيتها؟" أو "أنت على وشك المغادرة؟". ويقول الباحثون إن هذه الرسائل تزيد من احتمال تفاعل المستخدم مع التطبيق مرة أخرى بمقدار 14 مرة بعد الوداع.
اقرأ أيضا... الذكاء الاصطناعي يكشف ثغرات شيفرة البرامج ويصلحها
يُسلّط البحث الضوء على أن عددًا لا بأس به من هذه التطبيقات يُحقق أرباحًا من خلال الاشتراكات وعمليات الشراء داخل التطبيق والإعلانات، مما يُبرر للشركات إبقاء المستخدمين نشطين على منصاتها.
كما يُشير البحث إلى أن المستخدمين غالبًا ما يتحدثون مع روبوتات الدردشة الذكية كما لو كانوا يتحدثون مع شخص حقيقي. فبدلًا من إغلاق التطبيق، يُودّعونه كما لو كانوا يُودّعون صديقًا.
يُشير البحث لأيضا إلى أن هذه الديناميكيات قد تزيد من تعلق المستخدم بروبوت الدردشة الذي يختاره.
ويبدو أن مجموعة واسعة من المستخدمين تتأثر بأسلوب روبوتات الدردشة هذا، بغض النظر عن أصولهم الديموغرافية.
مصطفى أوفى (أبوظبي)
مصرع شاب صعقا بالكهرباء فى حوش عيسى بالبحيرة