ميتا تعتمد على الذكاء الاصطناعي لمراجعة مخاطر المنتجات وتقلص دور الخبراء
تاريخ النشر: 1st, June 2025 GMT
لسنوات كانت شركة ميتا تخضع ميزات تطبيقاتها، مثل إنستجرام وواتساب وفيسبوك، لمراجعات دقيقة من قِبل فرق بشرية متخصصة لتقييم المخاطر المحتملة، مثل انتهاك الخصوصية أو الأذى المحتمل للقاصرين أو تعزيز انتشار المحتوى المضلل والسام.
لكن وفقًا لوثائق داخلية حصلت عليها شبكة NPR، تستعد ميتا لجعل ما يصل إلى 90٪ من هذه التقييمات تتم بواسطة الذكاء الاصطناعي بدلاً من البشر.
في الواقع، هذا التغيير يعني أن تحديثات حاسمة مثل خوارزميات ميتا الجديدة، ميزات الأمان، وتعديلات سياسات مشاركة المحتوى، سيتم اعتمادها آليًا دون تدخل بشري فعّال، ما يقلص من دور الموظفين المعنيين بمراجعة الأثر الاجتماعي أو سوء الاستخدام المحتمل لهذه التعديلات.
داخل ميتا، يُنظر إلى هذه الخطوة على أنها انتصار لفِرَق تطوير المنتجات، إذ ستسمح لهم بإطلاق التحديثات والميزات بسرعة أكبر. لكن موظفين حاليين وسابقين أعربوا عن مخاوفهم من أن تقليص التدقيق البشري لصالح الذكاء الاصطناعي قد يؤدي إلى قرارات خطيرة تتسبب في أضرار فعلية على أرض الواقع.
قال أحد التنفيذيين السابقين في ميتا، طالبًا عدم الكشف عن هويته: "طالما أن هذا التغيير يعني طرح المنتجات بسرعة أكبر وبمراجعة أقل، فهو يزيد من احتمالية حدوث مشاكل حقيقية لم يتم التحسب لها مسبقًا."
ميتا تدافع عن نفسها وتعد بالحذرفي بيان لها، قالت ميتا إنها استثمرت مليارات الدولارات لحماية خصوصية المستخدمين، وأكدت أن القرارات عالية المخاطر لا تزال تخضع لتقييم بشري، بينما تُترك المهام "المنخفضة الخطورة" للأنظمة الآلية.
إلا أن الوثائق الداخلية التي اطلعت عليها NPR تكشف أن ميتا تدرس أتمتة مراجعة مواضيع حساسة مثل سلامة الذكاء الاصطناعي، مخاطر الأطفال، ومجال "النزاهة" الذي يشمل المحتوى العنيف والمعلومات المضللة.
مهندسون يقررون دون خبرة في الخصوصيةتشير الشرائح الداخلية إلى أن فرق المنتجات ستحصل الآن في معظم الحالات على "قرار فوري" من الذكاء الاصطناعي بعد إكمال استبيان حول المشروع. سيتعين على الفريق التحقق من استيفاء المتطلبات قبل إطلاق الميزة، دون المرور بالمراجعة اليدوية الإلزامية كما كان في السابق.
لكن خبراء سابقين داخل ميتا مثل زفيكا كريجر، المدير السابق للابتكار المسؤول، أبدوا قلقهم قائلين: "معظم المهندسين ليسوا خبراء في الخصوصية، وهذا ليس محور تقييمهم أو ما يُحفَّزون عليه." وأضاف أن بعض التقييمات الذاتية تحولت إلى مجرد إجراءات شكلية تفوّت مخاطر كبيرة.
الذكاء الاصطناعي يُحرّر الموظفين... ولكن!في تقريرها الفصلي الأخير حول "النزاهة"، قالت ميتا إن النماذج اللغوية الكبيرة التي تستخدمها بدأت تتفوق على الأداء البشري في بعض السياسات، مشيرة إلى أن ذلك يساعد على تحرير المراجعين البشر للتركيز على المحتوى الأكثر احتمالًا لانتهاك القواعد.
حماية خاصة للمستخدمين في الاتحاد الأوروبيوفقًا للوثائق، فإن مستخدمي ميتا في الاتحاد الأوروبي قد يكونون محصنين جزئيًا من هذا التغيير، حيث ذكرت إعلانات داخلية أن اتخاذ القرار والإشراف في أوروبا سيبقى من صلاحيات مقر الشركة في أيرلندا، ذلك امتثالًا لقوانين الاتحاد مثل قانون الخدمات الرقمية الذي يفرض رقابة صارمة على المحتوى الرقمي.
تفكيك للقيود القديمة وسط تقارب مع ترامب؟تم الكشف عن هذه التغييرات بعد فترة وجيزة من إيقاف ميتا لبرنامج التحقق من المعلومات وتخفيف سياساتها تجاه خطاب الكراهية.
ويبدو أن هذه الخطوات تشكل تحولًا نحو حرية أكبر في التعبير وتحديث أسرع للتطبيقات، في تفكيك واضح للقيود التي وضعتها الشركة سابقًا للحد من إساءة الاستخدام. ويأتي ذلك وسط تقارير عن مساعي مارك زوكربيرغ للتقارب مع الرئيس السابق دونالد ترامب.
هل التسرع في التقييمات يُعد انتكاسة ذاتية؟تأتي هذه التغييرات في إطار سعي ميتا إلى تسريع عملياتها في ظل منافسة متزايدة من شركات مثل تيك توك وOpenAI وSnap.
وفي حين ترى بعض الشخصيات مثل كاتي هاربيث، المديرة التنفيذية لمؤسسة Anchor Change، أن الذكاء الاصطناعي يمكن أن يقلل التكرار ويزيد الكفاءة، فإنها شددت على ضرورة وجود رقابة بشرية متوازنة.
لكن موظفًا سابقًا آخر شكّك في نجاعة هذه السياسة قائلاً: "يبدو أن هذا القرار يضر ميتا أكثر مما ينفعها.
ففي كل مرة تطلق منتجًا جديدًا، يتم اكتشاف مشكلات لم تؤخذ على محمل الجد."
تصريحات رسمية وتعجيل في التنفيذقال ميشيل بروتي، مدير الخصوصية في ميتا، في منشور داخلي في مارس إن الشركة "تمنح فِرَق المنتجات مزيدًا من الصلاحيات" لتطوير آليات إدارة المخاطر. وقد بدأ تنفيذ نظام الأتمتة تدريجيًا خلال شهري أبريل ومايو.
ورغم أن بروتي شدد على أن الهدف هو "تبسيط عملية اتخاذ القرار"، يرى البعض داخل الشركة أن استبعاد العامل البشري من التقييمات قد يؤدي إلى نتائج كارثية.
وقال أحد الموظفين المعنيين بالمراجعات: "نحن نمثل المنظور البشري حول كيف يمكن أن تسوء الأمور وإذا تم تهميشنا، فالنتائج ستكون أسوأ للجميع."
المصدر: صدى البلد
كلمات دلالية: ميتا الذكاء الاصطناعي خوارزميات ميتا الذکاء الاصطناعی
إقرأ أيضاً:
احتيال شركات الذكاء الاصطناعي يجب أن يتوقف
مع تقدم الذكاء الاصطناعي وتغلغله في حياتنا على نحو متزايد، يبدو من الواضح أنه من غير المحتمل أن يخلق المدينة التكنولوجية الفاضلة ومن غير المرجح أن يتسبب في محو البشرية. النتيجة الأكثر احتمالا هي مكان ما في المنتصف ــ مستقبل يتشكل من خلال الطوارئ، والحلول الوسط، وعلى جانب عظيم من الأهمية، القرارات التي نتخذها الآن حول كيفية تقييد وتوجيه تطور الذكاء الاصطناعي.
باعتبارها الرائدة عالميا في مجال الذكاء الاصطناعي، تضطلع الولايات المتحدة بدور مهم بشكل خاص في تشكيل هذا المستقبل. لكن خطة عمل الذكاء الاصطناعي التي أعلن عنها الرئيس الأمريكي دونالد ترامب مؤخرا بددت الآمال في تعزيز الإشراف الفيدرالي، فاحتضنت بدلا من ذلك نهجا داعما للنمو في تطوير التكنولوجيا. وهذا يجعل التركيز من جانب حكومات الولايات، والمستثمرين، والجمهور الأمريكي على أداة مُـساءلة أقل إخضاعا للمناقشة، ألا وهي حوكمة الشركات ضرورة أشد إلحاحا. وكما توثق الصحفية كارين هاو في كتابها «إمبراطورية الذكاء الاصطناعي»، فإن الشركات الرائدة في هذا المجال منخرطة بالفعل في المراقبة الجماعية، وهي تستغل عمالها، وتتسبب في تفاقم تغير المناخ. من عجيب المفارقات هنا أن كثيرا منها شركات منفعة عامة (PBCs)، وهي بنية حوكمة يُزعم أنها مصممة لتجنب مثل هذه الانتهاكات وحماية البشرية. ولكن من الواضح أنها لا تعمل على النحو المنشود.
كانت هيكلة شركات الذكاء الاصطناعي على أنها شركات منفعة عامة شكلا ناجحا للغاية من أشكال الغسيل الأخلاقي. فبإرسال إشارات الفضيلة إلى الهيئات التنظيمية وعامة الناس، تخلق هذه الشركات قشرة من المساءلة تسمح لها بتجنب المزيد من الرقابة الجهازية على ممارساتها اليومية، والتي تظل مبهمة وربما ضارة. على سبيل المثال، تُـعَـد xAI التي يملكها إيلون ماسك شركة منفعة عامة تتمثل مهمتها المعلنة في «فهم الكون». لكن تصرفات الشركة ــ من بناء كمبيوتر خارق مُـلَـوِّث في السر بالقرب من حي تقطنه أغلبية من السود في ممفيس بولاية تينيسي، إلى إنشاء روبوت محادثة يشيد بهتلر ــ تُظهر قدرا مزعجا بشدة من عدم الاكتراث بالشفافية، والرقابة الأخلاقية، والمجتمعات المتضررة.
تُعد شركات المنفعة العامة أداة واعدة لتمكين الشركات من خدمة الصالح العام مع السعي إلى تحقيق الربح في الوقت ذاته. لكن هذا النموذج، في هيئته الحالية ــ خاصة في ظل قانون ولاية ديلاوير، الولاية التي تتخذها معظم الشركات العامة الأمريكية مقرا لها ــ مليء بالثغرات وأدوات الإنفاذ الضعيفة، وهو بالتالي عاجز عن توفير الحواجز اللازمة لحماية تطوير الذكاء الاصطناعي. لمنع النتائج الضارة، وتحسين الرقابة، وضمان حرص الشركات على دمج المصلحة العامة في مبادئها التشغيلية، يتعين على المشرعين على مستوى الولايات، والمستثمرين، وعامة الناس المطالبة بإعادة صياغة شركات المنفعة العامة وتعزيز قدراتها. من غير الممكن تقييم الشركات أو مساءلتها في غياب أهداف واضحة، ومحددة زمنيا، وقابلة للقياس الكمي. لنتأمل هنا كيف تعتمد شركات المنفعة العامة في قطاع الذكاء الاصطناعي على بيانات منافع شاملة وغير محددة يُزعَم أنها توجه العمليات. تعلن شركة OpenAI أن هدفها هو «ضمان أن يعود الذكاء الاصطناعي العام بالفضل على البشرية جمعاء»، بينما تهدف شركة Anthropic إلى «تحقيق أعظم قدر من النتائج الإيجابية لصالح البشرية في الأمد البعيد». المقصود من هذه الطموحات النبيلة الإلهام، لكن غموضها من الممكن أن يستخدم لتبرير أي مسار عمل تقريبا ــ بما في ذلك مسارات تعرض الصالح العام للخطر. لكن قانون ولاية ديلاوير لا يُـلزِم الشركات بتفعيل منفعتها العامة من خلال معايير قابلة للقياس أو تقييمات مستقلة. ورغم أنها تطالب بتقديم تقارير كل سنتين حول أداء المنفعة، فإنها لا تلزم الشركات بإعلان النتائج. بوسع الشركات أن تفي بالتزاماتها ــ أو تهملها ــ خلف الأبواب المغلقة، دون أن يدري عامة الناس شيئا. أما عن الإنفاذ، فبوسع المساهمين نظريا رفع دعوى قضائية إذا اعتقدوا أن مجلس الإدارة فشل في دعم مهمة الشركة في مجال المنفعة العامة. لكن هذا سبيل انتصاف أجوف، لأن الأضرار الناجمة عن الذكاء الاصطناعي تكون منتشرة، وطويلة الأجل، وخارجة عن إرادة المساهمين عادة. ولا يملك أصحاب المصلحة المتضررون ــ مثل المجتمعات المهمشة والمقاولين الذين يتقاضون أجورا زهيدة ــ أي سبل عملية للطعن في المحاكم. وللاضطلاع بدور حقيقي في حوكمة الذكاء الاصطناعي، يجب أن يكون نموذج «شركات المنفعة العامة» أكثر من مجرد درع للسمعة. وهذا يعني تغيير كيفية تعريف «المنفعة العامة»، وحوكمتها، وقياسها، وحمايتها بمرور الوقت. ونظرا لغياب الرقابة الفيدرالية، يجب أن يجري إصلاح هذا الهيكل على مستوى الولايات. يجب إجبار شركات المنفعة العامة على الالتزام بأهداف واضحة، وقابلة للقياس، ومحددة زمنيا، ومكتوبة في وثائقها الإدارية، ومدعومة بسياسات داخلية، ومربوطة بمراجعات الأداء والمكافآت والتقدم الوظيفي. بالنسبة لأي شركة عاملة في مجال الذكاء الاصطناعي، من الممكن أن تشمل هذه الأهداف ضمان سلامة نماذج المؤسسات، والحد من التحيز في مخرجات النماذج، وتقليل البصمة الكربونية الناجمة عن دورات التدريب والنشر، وتنفيذ ممارسات العمل العادلة، وتدريب المهندسين ومديري المنتجات على حقوق الإنسان والأخلاقيات والتصميم التشاركي. الأهداف المحددة بوضوح، وليس التطلعات الغامضة، هي التي ستساعد الشركات على بناء الأساس للمواءمة الداخلية الجديرة بالثقة والمساءلة الخارجية. يجب أيضا إعادة تصور مجالس الإدارة وعملية الإشراف. ينبغي لمجالس الإدارة أن تضم مديرين ذوي خبرة يمكن التحقق منها في أخلاقيات الذكاء الاصطناعي، والسلامة، والأثر الاجتماعي، والاستدامة. يجب أن يكون لكل شركة مسؤول أخلاقي رئيسي يتمتع بتفويض واضح، وسلطة مستقلة، والقدرة على الوصول المباشر إلى مجلس الإدارة. ينبغي لهؤلاء المسؤولين أن يشرفوا على عمليات المراجعة الأخلاقية وأن يُمنحوا سلطة وقف أو إعادة تشكيل خطط المنتجات عند الضرورة. وأخيرا، يجب أن تكون شركات الذكاء الاصطناعي المهيكلة كمؤسسات منفعة عامة مُلـزَمة بنشر تقارير سنوية مفصلة تتضمن بيانات كاملة ومصنفة تتعلق بالسلامة والأمن، والتحيز والإنصاف، والأثر الاجتماعي والبيئي، وحوكمة البيانات. وينبغي لعمليات تدقيق مستقلة ــ يديرها خبراء في الذكاء الاصطناعي، والأخلاقيات، والعلوم البيئية، وحقوق العمال ــ أن تعكف على تقييم صحة هذه البيانات، بالإضافة إلى ممارسات الحوكمة في الشركة وتواؤمها في عموم الأمر مع أهداف المنفعة العامة.
أكدت خطة عمل ترامب للذكاء الاصطناعي على عدم رغبة إدارته في تنظيم هذا القطاع السريع الحركة. ولكن حتى في غياب الإشراف الفيدرالي، بوسع المشرعين على مستوى الولايات، والمستثمرين، وعامة الناس تعزيز حوكمة إدارة الشركات للذكاء الاصطناعي بممارسة الضغوط من أجل إصلاح نموذج شركات المنفعة العامة. يبدو أن عددا متزايدا من قادة التكنولوجيا يعتقدون أن الأخلاقيات أمر اختياري. ويجب على الأمريكيين أن يثبتوا أنهم على خطأ، وإلا فإنهم يتركون التضليل، والتفاوت بين الناس، وإساءة استخدام العمالة، وقوة الشركات غير الخاضعة للرقابة تشكل مستقبل الذكاء الاصطناعي.
كريستوفر ماركيز أستاذ إدارة الأعمال في جامعة كامبريدج ومؤلف كتاب «المستغلون: كيف تقوم الشركات بخصخصة الأرباح وتأميم التكاليف»
خدمة «بروجيكت سنديكيت»
كم عمر الدرع وأبناء درع السودان وهل لديهم ثقافة حرب عمرها يتجاوز العشرين عام