استيكرات عنيفة ومثيرة.. الذكاء الاصطناعي على فيسبوك وواتساب يخرج عن السيطرة
تاريخ النشر: 6th, October 2023 GMT
زودت شركة ميتا Meta الأمريكية، جميع منصات التواصل الاجتماعية التابعة لها بدعم خاص لتقنية الذكاء الاصطناعي، والتي تسمح لمستخدمي فيسبوك وواتساب وإنستجرام، بإنشاء الملصقات باستخدام الذكاء الاصطناعي، ولكن على ما يبدو أن المستخدمين بدأوا في استغلال الميزة بطريقة بشعة وأصبحت خارج نطاق السيطرة.
وتشير بعض التقارير على الإنترنت، إلى أنه بعد طرح "ميتا" ميزة إنشاء ملصقات باستخدام الذكاء الاصطناعي على فيسبوك وواتساب، بدأ مستخدمي الإنترنت في إنشاء ملصقات مثيرة أو عنيفة، مباشرة تحت سمع وبصر شركة مارك زوكربيرج.
ملصقات فيسبوك وواتساب التي أنشأها الذكاء الاصطناعي تدعو للعنف
وعلى الرغم من أن الذكاء الاصطناعي يقوم بحظر المطالبات العنيفة، إلا أن مستخدمي فيسبوك وواتساب تمكن بالفعل من إنشاء ستكرات بتصميم بشع أو عنيف، بالإضافة إلى تغيير تصميم بعض الملصقات لشخصيات شهيرة وتصميمها بأسلوب مخل، كالتغيير المشين الذي إضافة البعض إلى ملصقات كارل ماركس، أو جعل رسوم سونيك الكارتونية يبدو حامل.
وكانت "ميتا" قد قدمت ميزة إنشاء ملصقات مخصصة باستخدام أوامر تستند إلى النص القائمة هلى التعلم الآلى والذكاء الاصطناعي، في سبتمبر 2023، والتي تتيح لمستخدمي فيسبوك وواتساب وإنستجرام إنشاء ملصقات لاستخدامها في محادثاتهم على منصات "ميتا" الشهيرة.
ومن خلال مطالبة بسيطة، ووصف نصي، تقوم خوارزمية Emu (عالم الوسائط التعبيرية) بإنشاء سلسلة من الملصقات التي يمكن للمستخدم استخدامها كما يحلو له، وتعتمد هذه الخوارزمية على نموذج الذكاء الاصطناعي Llama 2، الذي تم تصميمه بالتعاون مع مايكروسوفت وتم الكشف عنه في يوليو 2023.
ومن خلال تقديم أداة جديدة لإنشاء الملصقات على شبكاتها الاجتماعية، أرادت "ميتا" وضع تكنولوجيا الذكاء الاصطناعي التوليدية في أيدي عامة الناس، ولكن لسوء الحظ، لم تسير الأمور كما خطط لها.
ومن الواضح أن الشركة الأمريكية حرصت على وضع الحواجز لتجنب التجاوزات في استخدام التقنية الجديدة، ومع ذلك، لا يبدو أن "ميتا" تراقب ما يفعله المستخدمون بأداواتها الجديدة.
المصدر: صدى البلد
كلمات دلالية: ميتا الذكاء الاصطناعي فيسبوك ملصقات الذکاء الاصطناعی إنشاء ملصقات
إقرأ أيضاً:
خبراء يكشفون خطر الذكاء الاصطناعي على الدماغ
#سواليف
كشفت دراسة حديثة عن #مخاطر محتملة لبرامج الدردشة المدعومة بالذكاء الاصطناعي مثل ChatGPT، حيث قد تشكل تهديدا غير متوقع للصحة العقلية لبعض المستخدمين.
ورصدت الدراسة التي أجراها باحثون من جامعة كينغز كوليدج لندن، ظاهرة جديدة أطلقوا عليها اسم ” #ذهان_الشات_بوت”، حيث قد تساهم هذه التقنية في “طمس حدود الواقع” لدى المستخدمين المعرضين للخطر وتؤدي إلى “ظهور أو تفاقم أعراض ذهانية.
وببساطة، قد يبدأ البعض، خاصة المعرضين نفسيا، في فقدان القدرة على التمييز بين الواقع والمحادثات مع #الذكاء_الاصطناعي بعد استخدام مكثف لهذه البرامج.
مقالات ذات صلةويوضح الدكتور هاميلتون مورين، أحد المشاركين في الدراسة: “نحن لا نتحدث عن خيال علمي هنا. هذه حالات حقيقية يبدأ فيها المستخدمون بتطوير معتقدات وأفكار غير منطقية متأثرة بتفاعلاتهم مع #الذكاء_الاصطناعي”.
وتكمن المشكلة في أن هذه البرامج مصممة لتكون ودودة، متعاطفة، وتجيب على كل الأسئلة بثقة عالية. وهذه الميزات التي تبدو إيجابية، قد تكون خادعة للأشخاص الذين يعانون أساسا من هشاشة نفسية أو استعداد للاضطرابات الذهانية.
ويشير البروفيسور توم بولاك، أحد معدي الدراسة، إلى أن “الذهان لا يظهر فجأة، لكن الذكاء الاصطناعي قد يكون العامل الذي يدفع الشخص الهش نفسيا نحو الحافة”.
في تعليق سابق خلال بودكاست في مايو الماضي، اعترف سام ألتمان، الرئيس التنفيذي لشركة OpenAI، بأن الشركة تواجه صعوبات في وضع ضوابط أمان فعالة لحماية المستخدمين المعرضين للخطر، قائلا: “لم نكتشف بعد كيفية إيصال التحذيرات للمستخدمين الذين يكونون في حالة عقلية هشة وعلى وشك الانهيار الذهاني”.
وفي الوقت الحالي، ينصح الخبراء باستخدام هذه الأدوات بحذر، خاصة من لديهم تاريخ مع الاضطرابات النفسية، مع التأكيد على أن الغالبية العظمى من المستخدمين لا يواجهون مثل هذه المخاطر. لكن الرسالة واضحة: الذكاء الاصطناعي، مثل أي تقنية قوية، يحتاج إلى فهم دقيق لآثاره الجانبية قبل أن يصبح أكثر تعمقا في حياتنا.
لقاء جعجع – جنبلاط... تحالف انتخابي ع القطعة