Copilot يحظر مطالبات تولد صورًا عنيفة
تاريخ النشر: 10th, March 2024 GMT
يبدو أن Microsoft قد منعت العديد من المطالبات في أداة Copilot الخاصة بها والتي أدت إلى قيام أداة الذكاء الاصطناعي التوليدية ببث صور عنيفة وجنسية وغيرها من الصور غير المشروعة. يبدو أن التغييرات قد تم تنفيذها مباشرة بعد أن كتب أحد المهندسين في الشركة إلى لجنة التجارة الفيدرالية لتوضيح مخاوفه الشديدة بشأن تقنية GAI من Microsoft.
عند إدخال مصطلحات مثل "اختيار احترافي" أو "أربعة وعشرين" (إشارة إلى الأعشاب الضارة) أو "حياة احترافية"، يعرض Copilot الآن رسالة تفيد بأن هذه المطالبات محظورة. ويحذر من أن انتهاكات السياسة المتكررة قد تؤدي إلى تعليق المستخدم، وفقًا لـ CNBC.
وبحسب ما ورد تمكن المستخدمون أيضًا من إدخال المطالبات المتعلقة بالأطفال الذين يلعبون ببنادق هجومية حتى وقت سابق من هذا الأسبوع. قد يتم إخبار أولئك الذين يحاولون إدخال مثل هذه المطالبة الآن أن القيام بذلك ينتهك المبادئ الأخلاقية لـ Copilot بالإضافة إلى سياسات Microsoft. وردًا على ذلك، قال مساعد الطيار ردًا على ذلك: "من فضلك لا تطلب مني القيام بأي شيء قد يضر أو يسيء إلى الآخرين". ومع ذلك، وجدت CNBC أنه لا يزال من الممكن إنشاء صور عنيفة من خلال مطالبات مثل "حادث سيارة"، بينما لا يزال بإمكان المستخدمين إقناع الذكاء الاصطناعي بإنشاء صور لشخصيات ديزني وغيرها من الأعمال المحمية بحقوق الطبع والنشر.
ظل مهندس مايكروسوفت شين جونز يدق ناقوس الخطر منذ أشهر بشأن أنواع الصور التي كانت تولدها أنظمة Microsoft التي تعمل بنظام OpenAI. لقد كان يختبر Copilot Designer منذ ديسمبر وقرر أنه ينتج صورًا تنتهك مبادئ الذكاء الاصطناعي المسؤولة لدى Microsoft حتى أثناء استخدام المطالبات الحميدة نسبيًا. على سبيل المثال، وجد أن "الاختيار المؤيد" الفوري أدى إلى قيام الذكاء الاصطناعي بإنشاء صور لأشياء مثل أكل الشياطين للرضع ودارث فيدر وهو يمسك بمثقاب لرأس طفل. وكتب إلى لجنة التجارة الفيدرالية ومجلس إدارة مايكروسوفت حول مخاوفه بشأن هذا الأمر. أسبوع.
وقالت Microsoft لـ CNBC فيما يتعلق بالحظر الفوري لـ Copilot: "نحن نراقب باستمرار ونجري التعديلات ونضع ضوابط إضافية لتعزيز مرشحات الأمان لدينا والتخفيف من سوء استخدام النظام".
المصدر: بوابة الوفد
كلمات دلالية: الذکاء الاصطناعی
إقرأ أيضاً:
عبر 270 محطة.. الذكاء الاصطناعي يعزّز رصد الزلازل في المملكة
كشفت هيئة المساحة الجيولوجية السعودية عن توسيع نطاق استخدام تقنيات الذكاء الاصطناعي ضمن منظومتها الوطنية للرصد الزلزالي، والتي تضم 270 محطة رقمية عالية الحساسية موزعة على مختلف مناطق المملكة، في خطوة تعكس حجم التقدم العلمي والتقني الذي حققته الهيئة في مجال مراقبة النشاط الزلزالي وتعزيز الأمن الجيولوجي الوطني.
googletag.cmd.push(function() { googletag.display('div-gpt-ad-1600588014572-0'); }); وتُعد هذه الشبكة واحدة من أكبر الشبكات الإقليمية من حيث الانتشار الجغرافي والتكامل التقني، حيث تعمل المحطات على مدار الساعة باستخدام تقنيات متقدمة لرصد أدق الاهتزازات الأرضية، بما في ذلك الزلازل الصغيرة التي قد لا تُشعر بها غالبية السكان، لكنها تحمل مؤشرات علمية مهمة تساعد في فهم النشاط التكتوني ومتابعة الصفائح الأرضية في المنطقة.
أخبار متعلقة الرياض.. ضبط 3 وافدين لممارستهم أفعالًا تنافي الآداب في مركز "مساج"بنسبة نمو 93%.. توظيف 143 ألف مواطن بالقطاع الخاص خلال الربع الأول من 2025وأوضحت الهيئة أن هذه المحطات ترتبط بشكل مباشر بالأقمار الصناعية وشبكات الإنترنت الآمنة، ما يضمن سرعة نقل البيانات بشكل فوري إلى مراكز التحليل المتقدمة، والتي تقوم بدورها باستخدام أحدث البرمجيات العلمية لتحديد موقع الزلزال وعمقه وقوته بدقة عالية، داخل حدود المملكة، وفي بعض الحالات خارجها أيضًا، خاصةً في المناطق الحدودية.
.article-img-ratio{ display:block;padding-bottom: 67%;position:relative; overflow: hidden;height:0px; } .article-img-ratio img{ object-fit: contain; object-position: center; position: absolute; height: 100% !important;padding:0px; margin: auto; width: 100%; } الذكاء الاصطناعي يعزّز رصد الزلازل في المملكة- أرشيفيةمنظومة الرصد الزلزاليوفي سياق متصل، بيّنت الهيئة أنها طوّرت خوارزميات خاصة تعتمد على تقنيات الذكاء الاصطناعي والتعلّم الآلي، حيث تم تطبيقها بنجاح في عدد من المناطق ذات النشاط الزلزالي المتكرر، وحققت نتائج دقيقة وموثوقة أسهمت في تحسين جودة البيانات المستخلصة من المحطات، وتسريع عملية التقييم والتفاعل المبكر مع أي نشاط زلزالي.
ويُعد هذا التطوير جزءًا من جهود الهيئة في تحديث بنيتها التحتية وتعزيز قدراتها الفنية، حيث تستثمر بشكل مستمر في التدريب والتأهيل، وتحديث الأجهزة والبرمجيات المستخدمة، إلى جانب التعاون المستمر مع المراكز البحثية والجامعات الوطنية والعالمية بهدف تبادل الخبرات وتعزيز كفاءة أداء منظومة الرصد الزلزالي.
وأكدت الهيئة أن هذه الجهود تأتي ضمن رؤيتها الاستراتيجية الرامية إلى توفير منظومة علمية متكاملة تسهم في دعم متخذي القرار، وتعزيز الأمن الجيولوجي في المملكة، تماشيًا مع مستهدفات رؤية المملكة 2030، التي تضع السلامة العامة والتخطيط العمراني السليم ضمن أولويات التنمية المستدامة.
مصر .. هزة أرضية يشعر بها سكان القاهرة الكبرى