التعلق العاطفي يهدد مستخدمي مساعد «تشات جي بي تي» الصوتي
تاريخ النشر: 10th, August 2024 GMT
المناطق_متابعات
تبدي شركة “أوبن إيه آي” المطورة لنموذج “تشات جي بي تي” قلقها من إمكان أن تتسبب الواقعية الكبيرة في الصوت المرفق ببرنامجها للذكاء الاصطناعي في تعلّق المستخدمين بالتفاعلات الآلية على حساب العلاقات البشرية.
وأشارت الشركة التي تتخذ مقراً في سان فرانسيسكو، في تقرير إلى أن الدردشة مع الذكاء الاصطناعي كما قد يفعل المرء مع شخص آخر قد تدفع بالمستخدمين إلى أن يضعوا ثقة في غير محلها بالبرامج الآلية، كما أن الجودة العالية للصوت المدمج بنسخة “جي بي تي- 4 أو” (GPT-4o) من “تشات جي بي تي” قد تفاقم هذا التأثير.
وقالت “أوبن إيه آي” في التقرير عن العمل الأمني الذي تقوم به على نسخة ChatGPT-4o من برنامج الذكاء الاصطناعي الخاص بها، إن تقنيات التشبيه بالإنسان Anthropomorphization “تتضمن إسناد سلوكيات وخصائص خاصة بالبشر إلى كيانات غير بشرية، مثل نماذج الذكاء الاصطناعي”.
وحذّرت من أن “هذا الخطر قد يزداد بسبب القدرات الصوتية لـGPT-4o، والتي تسهّل المزيد من التفاعلات الشبيهة بالإنسان مع البرنامج” الآلي.
وقالت شركة “أوبن إيه آي” إنها لاحظت أن المستخدمين يتحدثون إلى الذكاء الاصطناعي بطرق تشير إلى روابط مشتركة، مثل التذمر بصوت عالٍ أمام البرنامج الآلي.
ولفتت إلى أن هذه الحالات تبدو حميدة، ولكن يتعيّن دراستها لمعرفة كيفية تطورها على مدى فترات أطول من الزمن.
وتكهنت “أوبن إيه آي” بأن التفاعل الاجتماعي مع الذكاء الاصطناعي قد يجعل المستخدمين أقل مهارة أو ميلاً للتواصل مع البشر.
وأشار التقرير إلى أن “التفاعل الموسّع مع البرنامج قد يؤثر على المعايير الاجتماعية”، مضيفاً: “على سبيل المثال، نماذجنا تتعامل بتواضع مع المستخدمين وهذا يسمح لهم بالمقاطعة وأخذ الدور في الكلام في أي وقت، وهذا يتعارض مع آداب الحديث في التفاعلات البشرية، في حين أنه متوقع مع الذكاء الاصطناعي”.
وبحسب “أوبن إيه آي”، فإن قدرة الذكاء الاصطناعي على تذكّر التفاصيل أثناء المحادثة وإنجاز المهام قد تجعل الناس يعتمدون بشكل مفرط على التكنولوجيا.
بديل عن البشر؟
وقال ألون يامين، المؤسس المشارك والرئيس التنفيذي لمنصة “كوبي ليكس” المتخصصة في رصد عمليات السرقة الأدبية من خلال الذكاء الاصطناعي، إن “المخاوف الأخيرة التي شاركتها أوبن إيه آي حول الاعتماد المحتمل على الخدمة الصوتية في تشات جي بي تي تشير إلى ما بدأ الكثيرون بالفعل في طرحه: هل حان الوقت للتوقف والتفكير في كيفية تأثير هذه التكنولوجيا على التفاعل البشري والعلاقات؟”.
وشدد على ضرورة ألا يكون الذكاء الاصطناعي بديلاً للتفاعل البشري الفعلي.
وقالت “أوبن إيه آي” إنها ستختبر بشكل أكبر كيف يمكن لقدرات الصوت في الذكاء الاصطناعي أن تجعل الناس مرتبطين عاطفياً بالبرنامج الآلي.
وقد تمكنت الفرق التي اختبرت القدرات الصوتية في نسخة ChatGPT-4o، أيضاً من دفعها إلى تكرار معلومات كاذبة وإنتاج نظريات مؤامرة، ما أثار مخاوف من إمكان أن يُحمل الذكاء الاصطناعي إلى القيام بذلك بصورة تلقائية.
وأُجبرت شركة “أوبن إيه آي” على الاعتذار للممثلة سكارليت جوهانسون في يونيو لاستخدام البرنامج صوتاً يشبه صوتها في أحدث روبوت دردشة، ما سلّط الضوء على التجاوزات المحتملة لتقنية استنساخ الصوت.
وعلى الرغم من أن شركة “أوبن إيه آي” نفت أن يكون الصوت الذي استخدمته لجوهانسون، فإن استخدام الرئيس التنفيذي للشركة سام ألتمان عبارة “هير” Her للإشارة إلى النموذج الجديد عبر وسائل التواصل الاجتماعي زادت من الشكوك في هذا المجال.
فقد أدت جوهانسون صوت شخصية من الذكاء الاصطناعي في فيلم “Her“، الذي قال ألتمان سابقاً إنه فيلمه المفضل عن التكنولوجيا.
ويؤدي خواكين فينيكس في الفيلم الصادر عام 2013 دور رجل يقع في حب مساعدة بالذكاء الاصطناعي تدعى سامانثا.
نسخ الرابط تم نسخ الرابط 10 أغسطس 2024 - 5:09 مساءً شاركها فيسبوك X لينكدإن ماسنجر ماسنجر أقرأ التالي أبرز المواد10 أغسطس 2024 - 2:30 مساءًانهيار معلم شهير في أمريكا عمره 190 مليون سنة منوعات10 أغسطس 2024 - 8:30 صباحًادولتشي آند غابانا تطلق عطراً “للكلاب” منوعات10 أغسطس 2024 - 7:57 صباحًاالإمارات: إحالة «عصابة بهلول» إلى المحاكمة الجنائية أبرز المواد9 أغسطس 2024 - 3:18 مساءًعلماء روس يطورون مادة من السيراميك لبناء قواعد على القمر أبرز المواد9 أغسطس 2024 - 2:17 مساءًدراسة: تراجُع خطر الموت بحوادث الطيران10 أغسطس 2024 - 2:30 مساءًانهيار معلم شهير في أمريكا عمره 190 مليون سنة10 أغسطس 2024 - 8:30 صباحًادولتشي آند غابانا تطلق عطراً “للكلاب”10 أغسطس 2024 - 7:57 صباحًاالإمارات: إحالة «عصابة بهلول» إلى المحاكمة الجنائية9 أغسطس 2024 - 3:18 مساءًعلماء روس يطورون مادة من السيراميك لبناء قواعد على القمر9 أغسطس 2024 - 2:17 مساءًدراسة: تراجُع خطر الموت بحوادث الطيران البرلمان العربي يدين استهداف الاحتلال الإسرائيلي مدرسة تؤوي نازحين فلسطينيين في غزة البرلمان العربي يدين استهداف الاحتلال الإسرائيلي مدرسة تؤوي نازحين فلسطينيين في غزة تابعنا على تويتـــــرTweets by AlMnatiq تابعنا على فيسبوك تابعنا على فيسبوكالأكثر مشاهدة الفوائد الاجتماعية للإسكان التعاوني 4 أغسطس 2022 - 11:10 مساءً بث مباشر مباراة الهلال وريال مدريد بكأس العالم للأندية 11 فبراير 2023 - 1:45 مساءً اليوم.. “حساب المواطن” يبدأ في صرف مستحقات المستفيدين من الدعم لدفعة يناير الجاري 10 يناير 2023 - 8:12 صباحًا جميع الحقوق محفوظة لجوال وصحيفة المناطق © حقوق النشر 2024 | تطوير سيكيور هوست | مُستضاف بفخر لدى سيكيورهوستفيسبوكXYouTubeانستقرامواتساب فيسبوك X ماسنجر ماسنجر واتساب تيلقرام زر الذهاب إلى الأعلى إغلاق البحث عن: فيسبوكXYouTubeانستقرامواتساب إغلاق بحث عن إغلاق بحث عنالمصدر: صحيفة المناطق السعودية
كلمات دلالية: الذکاء الاصطناعی تشات جی بی تی أوبن إیه آی أغسطس 2024 إلى أن
إقرأ أيضاً:
الذكاء الاصطناعي والأمن السيبراني.. من يحمي من؟
في خضم التطور السريع لتقنيات الذكاء الاصطناعي، يبرز الأمن السيبراني كساحة معركة جديدة بين الدفاعات الذكية والهجمات المتطورة. فهل يكون الذكاء الاصطناعي حامياً أم مصدراً لخطر جديد؟.
شهدت السنوات القليلة الماضية تسارعاً كبيراً في دمج تقنيات الذكاء الاصطناعي في أنظمة الأمن السيبراني حول العالم.
وقد شمل ذلك مجالات مثل تحليل التهديدات، والتعرف على أنماط السلوك غير الطبيعي، والتعامل الآلي مع الحوادث الأمنية.
لكن في الجهة الأخرى، فإن نفس التقنيات باتت تُستخدم أيضاً من قبل جهات خبيثة لتطوير هجمات سيبرانية أكثر ذكاءً وخداعاً.
هذا التوازن الحساس بين الدفاع والهجوم يطرح تساؤلات جوهرية: من يسبق الآخر؟ وهل يمكن السيطرة على الذكاء الاصطناعي قبل أن يتفوق على البشر في ساحة المعركة الرقمية؟
الذكاء الاصطناعي.. درع رقمي
بحسب تقرير أصدرته شركة "Fortinet"، فإن أنظمة الأمن القائمة على الذكاء الاصطناعي تُسهم في تحسين زمن الاستجابة للحوادث بنسبة تصل إلى 90%، مقارنة بالأنظمة التقليدية.
وتعتمد هذه الأنظمة على تقنيات مثل التعلم الآلي وتحليل البيانات السلوكية، مما يمكّنها من رصد التهديدات المحتملة في لحظاتها الأولى، حتى تلك التي لم تُسجل من قبل.
ويشير خبراء إلى أن هذه القدرات أساسية في التصدي للهجمات من نوع "Zero-Day"، والتي لا تتوافر لها قواعد بيانات معروفة.
كما تستخدم شركات كبرى، مثل "Microsoft" و"IBM"، منصات تعتمد على الذكاء الاصطناعي لحماية شبكاتها الضخمة وتحليل المليارات من الأحداث الأمنية بشكل يومي.
الذكاء الاصطناعي.. أداة هجومية
الذكاء الاصطناعي لا يقتصر على الجانب الدفاعي، فقد أظهرت تحقيقات تقنية أن جماعات سيبرانية بدأت في استخدام أدوات تعتمد على نماذج توليدية لإنشاء رسائل بريد إلكتروني خادعة يصعب تمييزها عن الرسائل الحقيقية.
وفي مايو 2025، كشفت وكالة "رويترز" عن حادثة استخدمت فيها جهة خبيثة صوتاً مزيفاً لأحد كبار المسؤولين في إيطاليا لإقناع رجل أعمال بارز بتحويل مبلغ مالي كبير.
وقد استخدمت التقنية خوارزميات توليد الصوت بالذكاء الاصطناعي، وهي متاحة بشكل تجاري عبر الإنترنت.
كما تُستخدم تقنيات توليد النصوص آلياً لشن هجمات تصيّد ذكي، تستهدف الأفراد برسائل مصممة بعناية بعد تحليل بياناتهم عبر الإنترنت، مما يزيد من احتمالية وقوعهم ضحية للهجوم.
سباق غير محسوم بين المدافعين والمهاجمين
وصف عدد من الباحثين في مجال الأمن السيبراني ما يجري بأنه سباق تسلّح رقمي، فكلما طوّر المدافعون تقنيات ذكاء اصطناعي أكثر تطوراً، يسعى المهاجمون لاستغلال نفس التقنيات، بل ومحاكاتها في بعض الأحيان.
وأشار تقرير صادر عن شركة "Palo Alto Networks" في الربع الأول من العام 2025، إلى أن نسبة الهجمات التي تستخدم خوارزميات ذكاء اصطناعي، أو تستغل ثغرات في أنظمة تعمل بالذكاء الاصطناعي قد زادت بنسبة 37% خلال عام واحد فقط.
وتكمن الخطورة في أن أنظمة الذكاء الاصطناعي ذاتها قد تصبح أهدافاً للهجمات، سواء من خلال التلاعب بنتائجها أو تدريبها على بيانات مغلوطة تُعرف بهجمات التسميم "Data Poisoning".
تحديات الخصوصية والحوكمة
من جانب آخر، تتزايد المخاوف حول الأثر المحتمل لأنظمة الذكاء الاصطناعي على الخصوصية والشفافية.
وفي تقرير أصدرته شركة "KPMG"، أوصت فيه بوضع أطر تنظيمية واضحة تحكم استخدام الذكاء الاصطناعي في المجالات الحساسة، وعلى رأسها الأمن السيبراني، وذلك لتفادي سوء الاستخدام أو التحيزات الخوارزمية.
وفي الوقت الذي تعتمد فيه هذه الأنظمة على مراقبة سلوك المستخدمين وتحليل البيانات بشكل دائم، يظل هناك جدل قانوني وأخلاقي حول مدى قانونية هذا التتبع، خاصة في ظل غياب تشريعات موحدة على المستوى الدولي.
حوكمة ذكية
لا شك أن الذكاء الاصطناعي يعيد تشكيل مشهد الأمن السيبراني العالمي، وبينما يوفّر إمكانيات هائلة لتعزيز الحماية، إلا أنه يطرح في المقابل تحديات معقدة تتطلب حلولاً مرنة وذكية.
التحدي الأكبر ربما لا يكمن فقط في تطوير تقنيات أكثر ذكاءً، بل في ضمان استخدامها المسؤول والآمن.
ولهذا، يدعو خبراء إلى تعاون عالمي بين الحكومات وشركات التكنولوجيا ومراكز الأبحاث لوضع أُطر تنظيمية تواكب سرعة هذا التطور المتسارع، وتحمي المستخدمين من مخاطره غير المتوقعة.
أمجد الطاهر (أبوظبي)
المالية تراجع أرقام الموازنة لضمان دقة التخطيط المالي ومواءمته مع الأولويات التنموية