Copilot يحظر مطالبات تولد صورًا عنيفة
تاريخ النشر: 10th, March 2024 GMT
يبدو أن Microsoft قد منعت العديد من المطالبات في أداة Copilot الخاصة بها والتي أدت إلى قيام أداة الذكاء الاصطناعي التوليدية ببث صور عنيفة وجنسية وغيرها من الصور غير المشروعة. يبدو أن التغييرات قد تم تنفيذها مباشرة بعد أن كتب أحد المهندسين في الشركة إلى لجنة التجارة الفيدرالية لتوضيح مخاوفه الشديدة بشأن تقنية GAI من Microsoft.
عند إدخال مصطلحات مثل "اختيار احترافي" أو "أربعة وعشرين" (إشارة إلى الأعشاب الضارة) أو "حياة احترافية"، يعرض Copilot الآن رسالة تفيد بأن هذه المطالبات محظورة. ويحذر من أن انتهاكات السياسة المتكررة قد تؤدي إلى تعليق المستخدم، وفقًا لـ CNBC.
وبحسب ما ورد تمكن المستخدمون أيضًا من إدخال المطالبات المتعلقة بالأطفال الذين يلعبون ببنادق هجومية حتى وقت سابق من هذا الأسبوع. قد يتم إخبار أولئك الذين يحاولون إدخال مثل هذه المطالبة الآن أن القيام بذلك ينتهك المبادئ الأخلاقية لـ Copilot بالإضافة إلى سياسات Microsoft. وردًا على ذلك، قال مساعد الطيار ردًا على ذلك: "من فضلك لا تطلب مني القيام بأي شيء قد يضر أو يسيء إلى الآخرين". ومع ذلك، وجدت CNBC أنه لا يزال من الممكن إنشاء صور عنيفة من خلال مطالبات مثل "حادث سيارة"، بينما لا يزال بإمكان المستخدمين إقناع الذكاء الاصطناعي بإنشاء صور لشخصيات ديزني وغيرها من الأعمال المحمية بحقوق الطبع والنشر.
ظل مهندس مايكروسوفت شين جونز يدق ناقوس الخطر منذ أشهر بشأن أنواع الصور التي كانت تولدها أنظمة Microsoft التي تعمل بنظام OpenAI. لقد كان يختبر Copilot Designer منذ ديسمبر وقرر أنه ينتج صورًا تنتهك مبادئ الذكاء الاصطناعي المسؤولة لدى Microsoft حتى أثناء استخدام المطالبات الحميدة نسبيًا. على سبيل المثال، وجد أن "الاختيار المؤيد" الفوري أدى إلى قيام الذكاء الاصطناعي بإنشاء صور لأشياء مثل أكل الشياطين للرضع ودارث فيدر وهو يمسك بمثقاب لرأس طفل. وكتب إلى لجنة التجارة الفيدرالية ومجلس إدارة مايكروسوفت حول مخاوفه بشأن هذا الأمر. أسبوع.
وقالت Microsoft لـ CNBC فيما يتعلق بالحظر الفوري لـ Copilot: "نحن نراقب باستمرار ونجري التعديلات ونضع ضوابط إضافية لتعزيز مرشحات الأمان لدينا والتخفيف من سوء استخدام النظام".
المصدر: بوابة الوفد
كلمات دلالية: الذکاء الاصطناعی
إقرأ أيضاً:
نماذج الذكاء الاصطناعي وإعادة صياغة الظهور الرقمي
شهد العالم الرقمي خلال العقدين الماضيين هيمنة كبيرة لمفهوم تحسين محركات البحث SEO (Search Engine Optimization) بوصفه الأداة الأساسية لرفع ترتيب المواقع الإلكترونية في نتائج البحث التقليدية، مثل: جوجل وبينغ وغيرها، حيث كان الهدف الرئيس هو الظهور في الصفحة الأولى وزيادة عدد الزيارات. غير أنّ هذا المفهوم، الذي شكّل حجر الأساس للتسويق الرقمي لسنوات طويلة، يكاد يتندثر لكي يحل محله مصطلح جديد وهو GEO (Generative Engine Optimization) فمع انتشار نماذج الذكاء الاصطناعي التوليدية، مثل: محركات الإجابة الذكية والمساعدات الرقمية، لم يعد المستخدم يبحث فقط عن روابط، بل أصبح ينتظر إجابة مباشرة، مختصرة، وموثوقة، ومدعومة بعدد من الروابط التي يمكنه التحقق من صحة المعلومة من خلالها. من هنا، بدأ يظهر مفهوم GEO أو تحسين الظهور في محركات الذكاء الاصطناعي التوليدية.
بحيث يرتكز SEO تقليديًا على تحسين الكلمات المفتاحية، وبناء الروابط، وتحسين سرعة الموقع وتجربة المستخدم، بهدف إرضاء خوارزميات محركات البحث. أمّا GEO فينطلق من منطق مختلف؛ إذ يسعى إلى جعل المحتوى قابلًا للفهم والاقتباس من قبل نماذج الذكاء الاصطناعي نفسها، بحيث يتم تضمينه داخل الإجابات التوليدية التي تقدمها هذه المحركات للمستخدمين وما يجب التأكيد عليه هو أن التحول من SEO إلى GEO لا يعني نهاية الأول، بل يعكس توسّعًا في فلسفة الظهور الرقمي. فالمحتوى اليوم لم يعد يُقيَّم فقط بمدى ترتيبه، بل بمدى موثوقيته، ودقته، وعمقه، وسياقه. إذ نجد أن محركات الذكاء الاصطناعي تميل إلى تفضيل المحتوى الواضح، المنظّم، المدعوم بالبيانات، والمكتوب بلغة تحليلية تساعدها على استخلاص المعرفة وإعادة إنتاجها.
في هذا السياق، أصبح على المؤسسات الإعلامية، والمواقع الإخبارية، والكتّاب، والخبراء، إعادة النظر في طريقة إنتاج المحتوى. بحيث لم يعد السؤال: كيف أظهر في نتائج البحث؟ بل أصبح: كيف أكون مصدرًا تُحيل إليه محركات الذكاء الاصطناعي عند توليد الإجابات؟
إنّ الانتقال من SEO إلى GEO يمثّل انتقالًا من منطق المنافسة على "الترتيب" إلى منطق المنافسة على "المصداقية والمعرفة". وهو تحوّل يفرض تحديات كبيرة، لكنه في الوقت نفسه يفتح آفاقًا جديدة أمام الصحافة الرقمية العربية لتثبيت حضورها كمصدر موثوق في فضاء المعلومات العالمي.
من عالم العقارات إلى الدبلوماسية الفظة.. كيف انعكست النزعة الفوقية في هفوات خطاب توم براك؟