الاستياء العام بشأن الخوارزميات

إيلان شتراوس ماريانا مازوكاتو

ماريانا مازوكاتو

إيلان شتراوس

في دعوى قضائية جديدة مرفوعة في الولايات المتحدة ضد شركة "ميتا" الشركة الأمّ لفيسبوك وانستغرام، تُجادل41 ولاية ومقاطعة كولومبيا أن منصات الشركة على شبكات التواصل الاجتماعي ــ إنستجرام وفيسبوك ــ لا تُسبب الإدمان فحسب، بل تُلحق الضرر برفاهية الأطفال.

واتُهمت شركة "ميتا" بالمشاركة في "مُخطط لاستغلال المُستخدمين الشباب بهدف تحقيق الأرباح"، بما في ذلك من خلال عرض محتوى ضار يبقيهم ملتصقين بشاشاتهم.

ووفقاً لاستطلاع حديث للرأي، يقضي الشباب في سن 17 عاما في الولايات المتحدة من 5 إلى 8 ساعات يومياً على مواقع التواصل الاجتماعي. كيف وصلت الأمور إلى هذا الحد؟ الجواب، باختصار، هو "المشاركة". تعمل شركات التكنولوجيا الكبرى على تعظيم قيمة المُساهمين من خلال نشر الخوارزميات لزيادة مشاركة المُستخدمين، حيث غالبًا ما تتغلب الأرباح القصيرة الأجل على أهداف العمل الطويلة الأجل، ناهيك عن الصحة المجتمعية. وعلى حد تعبير عالم البيانات جريج ليندن، فإن الخوارزميات المبنية على "مقاييس سيئة" تعمل على تعزيز "الحوافز السيئة" وتمكين "الجهات الفاعلة السيئة". وعلى الرغم من انطلاق موقع فيسبوك في البداية باعتباره خدمة أساسية لمساعدة الأصدقاء والمعارف على التواصل عبر الإنترنت، إلا أن تصميمه تطور تدريجيًا ليس لتلبية احتياجات المستخدمين وتفضيلاتهم، بل لإبقائهم على المنصة وإبعادهم عن الآخرين. وسعيًا لتحقيق هذا الهدف، تجاهلت الشركة باستمرار تفضيلات المستهلك الواضحة فيما يتعلق بنوع المحتوى الذي يرغب المُستخدمون في رؤيته، وخصوصيتهم، ومشاركة البيانات. إن وضع الأرباح الفورية في المقام الأول يعني توجيه المستخدمين نحو "النقرات"، على الرغم من أن هذا النهج يفضل عمومًا المواد الرديئة والمثيرة، بدلاً من مكافأة المشاركين بشكل عادل عبر نظام بيئي أوسع يشمل منشئي المحتوى، والمُستخدمين، والمُعلنين. نحن نطلق على هذه الأرباح وصف "أرباح الاهتمام الخوارزمي"، لأنها ناتجة عن الملكية السلبية (مثل مالك العقار) بدلاً من الإنتاج الريادي لتلبية احتياجات المستهلكين. يتطلب تحديد الأرباح في اقتصاد اليوم فهم كيفية استغلال المنصات المُهيمنة لسيطرتها الخوارزمية على المستخدمين. عندما تحط الخوارزمية من نوعية المحتوى الذي تروج له، فإنها تستغل ثقة المستخدمين والمركز المُهيمن الذي تعززه تأثيرات الشبكة. ولهذا السبب، تستطيع شركات فيسبوك وتويتر وإنستغرام أن تفلت من حشو صفحاتها بالإعلانات والمُحتوى "الموصى به" المُسبب للإدمان. وعلى حد تعبير الكاتب في مجال التكنولوجيا كوري دوكتورو، فإن "خفض جودة المنصة ينتج عن مجموعة من الخوارزميات" (التي قد تعتمد بدورها على ممارسات جمع البيانات ومشاركتها بصفة غير قانونية).

تتعلق الدعوى ضد شركة "ميتا" في نهاية المطاف بممارساتها الخوارزمية التي تم تصميمها بعناية لزيادة "مشاركة" المستخدم - مما يؤدي إلى إبقاء المستخدمين على المنصة لفترة أطول وإثارة المزيد من التعليقات والتفاعلات والمُشاركات. غالبًا ما تتمثل الوسيلة الفعالة للقيام بذلك في عرض محتوى ضار وغير قانوني، وتحويل الوقت الذي يقضيه المُستخدم على المنصة إلى نشاط إلزامي، مع ميزات مثل "التمرير اللانهائي" والإشعارات والتنبيهات غير المحدودة (يتم استخدام العديد من التقنيات نفسها، لتأثير كبير، من قبل صناعة القمار).

واليوم بعد أن أدى التقدم في مجال الذكاء الاصطناعي بالفعل إلى تعزيز التوصيات الخوارزمية، مما يجعلها أكثر إدمانًا، هناك حاجة ملحة إلى هياكل إدارة جديدة مُوجهة نحو "الصالح العام" (بدلاً من فكرة ضيقة الأفق عن "قيمة المساهمين") وشراكات تكافلية بين الشركات والحكومة والمجتمع المدني. ومن حسن الحظ أن صُناع السياسات قادرون على دفع هذه الأسواق نحو الأفضل. أولاً، بدلاً من الاعتماد فقط على قانون المنافسة ومكافحة الاحتكار، ينبغي لصناع السياسات اعتماد أدوات تكنولوجية لضمان عدم قدرة المنصات على التحكم في المستخدمين والمُطورين بشكل غير عادل. تتمثل إحدى طرق منع "الحدائق المسوّرة" المانعة للمنافسة في فرض إمكانية نقل البيانات وقابلية التشغيل البيني عبر الخدمات الرقمية، حتى يتمكن المستخدمون من التنقل بسلاسة أكبر بين المنصات، اعتمادًا على المنصة الذي يتم من خلالها تلبية احتياجاتهم وتفضيلاتهم على أفضل وجه.

ثانيًا، يُشكل إصلاح إدارة الشركات ضرورة بالغة الأهمية، حيث تسبب تعظيم قيمة المساهمين في تشجيع المنصات على استغلال مستخدميها خوارزميًا في المقام الأول. ونظرًا للتكاليف الاجتماعية المعروفة المرتبطة بنموذج الأعمال هذا ــ غالبًا ما يعني زيادة عدد النقرات تضخيم عمليات الاحتيال، والمعلومات المُضللة، والمواضيع المُثيرة للاستقطاب السياسي ــ فإن إصلاح الإدارة يتطلب إصلاح الخوارزميات. تتمثل الخطوة الأولى نحو إنشاء خط أساس أكثر صحة في مطالبة المنصات بالكشف (من خلال تقارير "10-K" السنوية المُقدَمة إلى لجنة الأوراق المالية والبورصة الأمريكية) عما تقوم خوارزمياتها بتحسينه، إلى جانب كيفية قيام مُستخدميها بتحقيق الأرباح. في عالم حيث يقوم مسؤولي شركات التكنولوجيا بالاجتماع في دافوس سنويًا للحديث عن "الأهداف"، فإن الإقرارات المُناسبة ستحثهم على الوفاء بوعودهم، وكذلك مساعدة صُناع السياسات والهيئات التنظيمية والمستثمرين على التمييز بين الأرباح المُكتسبة والإيرادات غير المكتسبة. ثالثًا، ينبغي منح المستخدمين تأثيرًا أكبر على تحديد الأولويات الخوارزمية للمعلومات المعروضة عليهم. خلاف ذلك، ستستمر الأضرار الناجمة عن تجاهل تفضيلات المُستخدم في النمو، حيث تنشئ الخوارزميات حلقات ردود الفعل الخاصة بها، مما يدفع المستخدمين إلى ابتلاع طعم تصفح الروابط، ثم يُستنتج بشكل خاطئ أنهم يُفضلون القيام بذلك. رابعًا، يجب أن يفسح معيار الصناعة "لاختبار A/B" المجال لإجراء تقييمات أكثر شمولاً للتأثير الطويل الأجل. يقود علم البيانات الخاطئ الخوارزميات على المدى القصير. على سبيل المثال، قد يوضح "اختبار A/B" أن عرض المزيد من الإعلانات على موقع مُعين سيكون له تأثير إيجابي قصير الأجل على الأرباح دون التأثير سلبًا على الاحتفاظ بالمستخدمين؛ لكن هذا يتجاهل التأثير على اكتساب مُستخدمين جدد، ناهيك عن معظم الآثار الأخرى التي يحتمل أن تكون ضارة على المدى الطويل. يُظهر علم البيانات الجيد أن تحسين أنظمة التوصية للمكافآت طويلة الأجل والمؤجلة (مثل رضا العملاء والاحتفاظ بهم واعتماد المستخدمين الجدد) هو أفضل طريقة للشركة لدفع عجلة النمو والربحية على المدى الطويل - على افتراض أنها يمكن أن تتوقف عن التركيز بشكل أساسي على تقرير الأرباح الفصلي التالي. في عام 2020، أشار فريق داخل شركة "Meta" إلى أن عددا أقل من الإشعارات التطفلية سيكون أفضل لكل من استخدام التطبيق ورضا المستخدمين على مدى فترة زمنية أطول (سنة واحدة). تختلف الآثار طويلة الأجل اختلافًا حادًا عن الآثار القصيرة الأجل. خامسًا، يجب نشر الذكاء الاصطناعي العام لتقييم جودة النتائج الخوارزمية، وخاصة الإعلانات. بالنظر إلى الأضرار الكبيرة الناشئة عن المنصات التي تخفض مستوى الإعلانات المقبولة، تستخدم وكالة مراقبة الإعلانات في المملكة المتحدة الآن أدوات الذكاء الاصطناعي لفحص الإعلانات وتحديد أولئك الذين ينشرون "ادعاءات كاذبة". ويتعين على السلطات الأخرى أن تحذو حذوها. والأهم من ذلك، يجب أن يكون تقييم الذكاء الاصطناعي إحدى سمات انفتاح المنصات على التدقيق الخارجي للمخرجات أو النتائج الخوارزمية. إن خلق بيئة رقمية تكافئ خلق القيمة من خلال الابتكار، وتعاقب استخراج القيمة من خلال الأرباح (وخاصة في الأسواق الرقمية الأساسية)، هو التحدي الاقتصادي الأساسي في عصرنا. إن حماية صحة مُستخدمي منصات شركات التكنولوجيا الكبرى والنظام البيئي بأكمله يعني ضمان عدم خضوع الخوارزميات لمخاوف الربح المباشرة للمساهمين. إذا كان قادة الأعمال جادين فيما يتعلق بتعزيز قيمة أصحاب المصلحة، فيتعين عليهم إدراك الحاجة إلى خلق القيمة بطريقة مختلفة جوهريًا ــ بالاعتماد على المبادئ الخمسة التي تم ذكرها. لا يمكن لمحاكمة شركة ميتا المقبلة محو الأخطاء التي تم ارتكابها في الماضي. ومع ذلك، بينما نستعد للجيل القادم من منتجات الذكاء الاصطناعي، يجب علينا إنشاء رقابة خوارزمية مناسبة. ولن تؤثر الخوارزميات المدعومة بالذكاء الاصطناعي على ما نستهلكه فحسب، بل على كيفية إنتاجنا وإبداعنا؛ ليس فقط ما نختاره، ولكن ما نفكر فيه. ينبغي ألا نرتكب هذا الخطأ.

• ماريانا مازوكاتو أستاذة اقتصاديات الابتكار والقيمة العامة في جامعة كوليدج لندن.

• إيلان شتراوس أستاذ مشارك زائر في جامعة جوهانسبرج في جنوب أفريقيا، وهو باحث مشارك أول في معهد UCL للابتكار والأغراض العامة، حيث يقود فريق أبحاث الاقتصاد الرقمي.

المصدر: لجريدة عمان