ميتا تعتمد على الذكاء الاصطناعي لمراجعة مخاطر المنتجات وتقلص دور الخبراء

لسنوات كانت شركة ميتا تخضع ميزات تطبيقاتها، مثل إنستجرام وواتساب وفيسبوك، لمراجعات دقيقة من قِبل فرق بشرية متخصصة لتقييم المخاطر المحتملة، مثل انتهاك الخصوصية أو الأذى المحتمل للقاصرين أو تعزيز انتشار المحتوى المضلل والسام.

 لكن وفقًا لوثائق داخلية حصلت عليها شبكة NPR، تستعد ميتا لجعل ما يصل إلى 90٪ من هذه التقييمات تتم بواسطة الذكاء الاصطناعي بدلاً من البشر.

الذكاء الاصطناعي يصادق على التحديثات بدلًا من الموظفين

في الواقع، هذا التغيير يعني أن تحديثات حاسمة مثل خوارزميات ميتا الجديدة، ميزات الأمان، وتعديلات سياسات مشاركة المحتوى، سيتم اعتمادها آليًا دون تدخل بشري فعّال، ما يقلص من دور الموظفين المعنيين بمراجعة الأثر الاجتماعي أو سوء الاستخدام المحتمل لهذه التعديلات.

ميتا تستبدل البشر بالذكاء الاصطناعي في تقييم الخصوصية والمخاطربميزات الذكاء الأصطناعي.. إليك أفضل نظارة ذكية في الأسواقجوجل تطلق تطبيقًا جديدًا لتشغيل نماذج الذكاء الاصطناعي على الهواتف دون اتصال بالإنترنتأندرويد 16 .. التحديث القادم يقتبس من iOS ويضيف لمسة من الذكاء الاصطناعيDeepSeek تطلق تحديثا جديدا لنموذج الذكاء الاصطناعي R1-0528أخبار التكنولوجيا|غرامة ضخمة تهدد سامسونج بسبب براءات الاختراع.. هونر تطوير روبوت على شكل إنسان كجزء من جهودها في مجال الذكاء الاصطناعيوظيفتك في خطر؟.. جوجل ومايكروسوفت تكشفان مستقبل البشر في عصر الذكاء الاصطناعيPerplexity تطلق "Labs".. أداة ذكاء اصطناعي لإنشاء تقارير وتطبيقات احترافيةمزايا ذكاء اصطناعي .. جوجل تطرح محرر صور جديدًا إليك أهم ميزاتهطرح متصفح جديد مدعوم بالذكاء الاصطناعي.. إليك أهم مواصفاتهتسريع تطوير المنتجات على حساب الأمان؟

داخل ميتا، يُنظر إلى هذه الخطوة على أنها انتصار لفِرَق تطوير المنتجات، إذ ستسمح لهم بإطلاق التحديثات والميزات بسرعة أكبر. لكن موظفين حاليين وسابقين أعربوا عن مخاوفهم من أن تقليص التدقيق البشري لصالح الذكاء الاصطناعي قد يؤدي إلى قرارات خطيرة تتسبب في أضرار فعلية على أرض الواقع.

قال أحد التنفيذيين السابقين في ميتا، طالبًا عدم الكشف عن هويته: "طالما أن هذا التغيير يعني طرح المنتجات بسرعة أكبر وبمراجعة أقل، فهو يزيد من احتمالية حدوث مشاكل حقيقية لم يتم التحسب لها مسبقًا."

ميتا تدافع عن نفسها وتعد بالحذر

في بيان لها، قالت ميتا إنها استثمرت مليارات الدولارات لحماية خصوصية المستخدمين، وأكدت أن القرارات عالية المخاطر لا تزال تخضع لتقييم بشري، بينما تُترك المهام "المنخفضة الخطورة" للأنظمة الآلية.

 إلا أن الوثائق الداخلية التي اطلعت عليها NPR تكشف أن ميتا تدرس أتمتة مراجعة مواضيع حساسة مثل سلامة الذكاء الاصطناعي، مخاطر الأطفال، ومجال "النزاهة" الذي يشمل المحتوى العنيف والمعلومات المضللة.

مهندسون يقررون دون خبرة في الخصوصية

تشير الشرائح الداخلية إلى أن فرق المنتجات ستحصل الآن في معظم الحالات على "قرار فوري" من الذكاء الاصطناعي بعد إكمال استبيان حول المشروع. سيتعين على الفريق التحقق من استيفاء المتطلبات قبل إطلاق الميزة، دون المرور بالمراجعة اليدوية الإلزامية كما كان في السابق.

لكن خبراء سابقين داخل ميتا مثل زفيكا كريجر، المدير السابق للابتكار المسؤول، أبدوا قلقهم قائلين: "معظم المهندسين ليسوا خبراء في الخصوصية، وهذا ليس محور تقييمهم أو ما يُحفَّزون عليه." وأضاف أن بعض التقييمات الذاتية تحولت إلى مجرد إجراءات شكلية تفوّت مخاطر كبيرة.

الذكاء الاصطناعي يُحرّر الموظفين... ولكن!

في تقريرها الفصلي الأخير حول "النزاهة"، قالت ميتا إن النماذج اللغوية الكبيرة التي تستخدمها بدأت تتفوق على الأداء البشري في بعض السياسات، مشيرة إلى أن ذلك يساعد على تحرير المراجعين البشر للتركيز على المحتوى الأكثر احتمالًا لانتهاك القواعد.

حماية خاصة للمستخدمين في الاتحاد الأوروبي

وفقًا للوثائق، فإن مستخدمي ميتا في الاتحاد الأوروبي قد يكونون محصنين جزئيًا من هذا التغيير، حيث ذكرت إعلانات داخلية أن اتخاذ القرار والإشراف في أوروبا سيبقى من صلاحيات مقر الشركة في أيرلندا، ذلك امتثالًا لقوانين الاتحاد مثل قانون الخدمات الرقمية الذي يفرض رقابة صارمة على المحتوى الرقمي.

تفكيك للقيود القديمة وسط تقارب مع ترامب؟

تم الكشف عن هذه التغييرات بعد فترة وجيزة من إيقاف ميتا لبرنامج التحقق من المعلومات وتخفيف سياساتها تجاه خطاب الكراهية. 

ويبدو أن هذه الخطوات تشكل تحولًا نحو حرية أكبر في التعبير وتحديث أسرع للتطبيقات، في تفكيك واضح للقيود التي وضعتها الشركة سابقًا للحد من إساءة الاستخدام. ويأتي ذلك وسط تقارير عن مساعي مارك زوكربيرغ للتقارب مع الرئيس السابق دونالد ترامب.

هل التسرع في التقييمات يُعد انتكاسة ذاتية؟

تأتي هذه التغييرات في إطار سعي ميتا إلى تسريع عملياتها في ظل منافسة متزايدة من شركات مثل تيك توك وOpenAI وSnap.

 وفي حين ترى بعض الشخصيات مثل كاتي هاربيث، المديرة التنفيذية لمؤسسة Anchor Change، أن الذكاء الاصطناعي يمكن أن يقلل التكرار ويزيد الكفاءة، فإنها شددت على ضرورة وجود رقابة بشرية متوازنة.

لكن موظفًا سابقًا آخر شكّك في نجاعة هذه السياسة قائلاً: "يبدو أن هذا القرار يضر ميتا أكثر مما ينفعها. 

ففي كل مرة تطلق منتجًا جديدًا، يتم اكتشاف مشكلات لم تؤخذ على محمل الجد."

تصريحات رسمية وتعجيل في التنفيذ

قال ميشيل بروتي، مدير الخصوصية في ميتا، في منشور داخلي في مارس إن الشركة "تمنح فِرَق المنتجات مزيدًا من الصلاحيات" لتطوير آليات إدارة المخاطر. وقد بدأ تنفيذ نظام الأتمتة تدريجيًا خلال شهري أبريل ومايو.

ورغم أن بروتي شدد على أن الهدف هو "تبسيط عملية اتخاذ القرار"، يرى البعض داخل الشركة أن استبعاد العامل البشري من التقييمات قد يؤدي إلى نتائج كارثية. 

وقال أحد الموظفين المعنيين بالمراجعات: "نحن نمثل المنظور البشري حول كيف يمكن أن تسوء الأمور  وإذا تم تهميشنا، فالنتائج ستكون أسوأ للجميع."

طباعة شارك ميتا الذكاء الاصطناعي خوارزميات ميتا

المصدر: صدى البلد