البروفيسور نوح جيانسيراكوزا يكشف لـ صدى البلد كيف يُسرّع الذكاء الاصطناعي وباء الشائعات

البروفيسور  نوح جيانسيراكوزا: “بدلاً من كتابة بضعة مقالات زائفة يمكن بالذكاء الاصطناعي إنشاء الآلاف بشكل شبه مجاني وفوري” إنها لعبة أرقام.. والذكاء الاصطناعي يساعد الأشخاص على التحكم في جيوش من حسابات الروبوتات لنشر المحتوى المزيف المشكلة ليست أن المنصات تنشر الأخبار المزيفة عمدًا بل في أن المراقبة صعبة للغايةالذكاء الاصطناعي يضع ضغطًا إضافيًا على نظام المعلومات الهش الذي يعتمد عليه المجتمع الديمقراطي
 

تدفق سيل من الشائعات والأخبار الكاذبة نحو وسائل التواصل الاجتماعي خلال العقد الماضي، خاصة في أوقات الأزمات كأزمة كورونا وغيرها من الأحداث الدولية والمحلية التي شهدها العالم، بما فيها مصر، التي واجهت كماً هائلاً من الشائعات المتعمدة والأخبار المغلوطة.

فبحسب إحصائية صادرة عن مجلس الوزراء المصري في فبراير 2024، تبين أن معدل انتشار الشائعات منذ عام 2014 حتى عام 2023، وفقاً لتوزيع نسبي لإجمالي الفترة، بلغ 18.8% عام 2023، و16.7% عام 2022، و15.2% عام 2021، و14.8% عام 2020، و12.8% عام 2019، و8.4% عام 2018، و6% عام 2017، و4.2% عام 2016، و2% عام 2015، و1.1% عام 2014.

وأشار التقرير ذاته إلى أن نسب انتشار الشائعات في عام 2023 توزعت قطاعياً على النحو التالي، الاقتصاد بنسبة 24%، والتموين بنسبة 21.2%، والتعليم بنسبة 11.6%، والطاقة والوقود بنسبة 11%، والصحة بنسبة 8.3%، والحماية الاجتماعية بنسبة 6.2%، والإصلاح الإداري بنسبة 6.2%، والزراعة بنسبة 4.8%، والسياحة والآثار بنسبة 2.7%، والإسكان بنسبة 2.1%، وقطاعات أخرى بنسبة 1.9%.

هذه الإحصائيات المفزعة تدفعنا لطرح عدة أسئلة، أبرزها، ما دور الخوارزميات والذكاء الاصطناعي في تسارع عملية انتشار الأخبار المضللة، وكيف يمكن مواجهتها وزيادة الوعي حولها؟

للإجابة عن هذه الأسئلة التي تدور في أذهان كل قارئ، أجرى موقع "صدى البلد" الإخباري حواراً خاصاً ومتفرداً مع البروفيسور "نوح جيانسيراكوزا"، أستاذ الرياضيات في جامعة بنتلي والزميل الزائر في جامعة هارفارد، الحاصل على دكتوراه في الرياضيات من جامعة براون، والمتخصص في خوارزميات الذكاء الاصطناعي ودورها في الأخبار الزائفة والسياسات العامة، والذي يكشف بدوره أهم التفاصيل حول استخدام الخوارزميات في نشر الشائعات، ومستقبل الإعلام والصحافة وسط ثورة الذكاء الاصطناعي التي يشهدها العالم في كافة المجالات، وإلى نص الحوار:

في الآونة الأخيرة، أطلقتَ كتاباً بعنوان "Robin Hood Math" يتحدث عن استخدام الخوارزميات لصناعة الأخبار الزائفة. نود أن نعرف، كيف يحدث ذلك تحديداً، وما هي سبل زيادة وعي رواد مواقع التواصل الاجتماعي بهذا الخطر؟

أعتقد أنه من المفيد أن نفكر ليس فقط في عملية إنشاء الشائعات، بل في دورة الحياة الكاملة للأخبار المزيفة، والطرق التي تؤثر بها أنظمة الذكاء الاصطناعي والخوارزميات الأخرى عليها، فالخطوة الأولى هي بالفعل إنشاء الشائعة، وهنا أرى أن الذكاء الاصطناعي يلعب دورين، وهما انه يمكن للذكاء الاصطناعي إنشاء محتوى زائف مقنع، مثل مقاطع الفيديو التي تُعرف بـ "deepfakes" (التزييف العميق). 

كان هذا ممكنًا لعدة سنوات، لكن التحسينات السريعة في الذكاء الاصطناعي التوليدي جعلته أسهل بكثير، ومتاحًا على نطاق أوسع، وأكثر إقناعًا مما كان عليه قبل عامين فقط.

حتى بالنسبة لأشياء مثل النصوص (مقالات الأخبار المزيفة) التي يمكن للمرء أن ينتجها يدويًا بسهولة، فإن الذكاء الاصطناعي التوليدي يسرع العملية بشكل كبير.

 فبدلاً من كتابة بضعة مقالات أو الدفع لـ “مصنع المتصيدين” هي مجموعة مؤسسية من المتصيدين على الإنترنت"، لكتابة بضع مئات من المقالات الزائفة، يمكن باستخدام الذكاء الاصطناعي إنشاء الآلاف أو أكثر من المقالات بشكل شبه مجاني وفوري.

الخطوة التالية هي النشر، فالأخبار المزيفة لا تفعل شيئًا بمفردها، أو بعبارة أخرى، إذا لم يرها أحد، فما أهميتها؟ وهنا يعود الفضل للنقطتين السابقتين، عندما تكون مقاطع التزييف العميق أكثر إقناعًا، فمن المرجح أن تنتشر على وسائل التواصل الاجتماعي؛ وعندما يتمكن الأشخاص من إنشاء مئات أو آلاف من مقاطع الفيديو والمقالات المزيفة بسرعة، يمكنهم إلقاءها جميعًا على وسائل التواصل الاجتماعي لزيادة فرصة انتشار إحداها بشكل فيروسي.

بعبارة أخرى، إنها لعبة أرقام، ولكن الذكاء الاصطناعي يساعد أيضًا الأشخاص على التحكم في جيوش من حسابات الروبوتات (bots) للمساعدة في نشر هذا المحتوى المزيف والتفاعل معه، لذا يمكن للذكاء الاصطناعي أن يساعد في ترجيح كفة وسائل التواصل الاجتماعي، إذا جاز التعبير.

إذن، هذه هي الطريقة التي يمكن (وللأسف) أن يُستخدم بها الذكاء الاصطناعي لإنشاء الأخبار المزيفة ونشرها عبر الإنترنت. 

هناك أيضًا محاولات لاستخدامه لمكافحة هذا الأمر، للكشف عن مقاطع التزييف العميق والمقالات المزيفة، لكن ذلك لم يكن ناجحًا جدًا.

 أعتقد أن أفضل نجاح حتى الآن كان في استخدام الذكاء الاصطناعي لاكتشاف وتفكيك جيوش الروبوتات هذه.

أما بالنسبة لزيادة الوعي بين مستخدمي وسائل التواصل الاجتماعي، أعتقد أنه يجب أن نستمر في فعل ما بوسعنا، لكن الوعي له حدود، فنحن بحاجة حقًا إلى المزيد من الدعم المؤسسي. 

لذلك، أعتقد أن تعليم الناس عن دورة حياة الأخبار المزيفة مفيد، وشرح خطواتها وكيفية عملها، ومفيد أيضًا أن نعرض لهم أمثلة، لكن للأسف لا توجد طريقة سحرية لاكتشاف مقاطع التزييف العميق أو المقالات المزيفة. 

أعتقد أننا بحاجة إلى المطالبة بفرض رقابة أكبر من قبل المنصات التقنية، وتشجيع المستخدمين على استخدام أدوات مثل "ملاحظات المجتمع"، والتحقق من المصادر ومراجعة الأشياء التي يرونها عبر الإنترنت إذا بدت مشبوهة، وخصوصًا التوقف قبل إعادة نشر الأشياء التي قد لا تكون صحيحة.

هل تتعمد بعض منصات التواصل الاجتماعي الشهيرة نشر أخبار كاذبة لتحقيق أهداف محددة؟ لماذا برأيك لا تُكافح هذه المنصات هذه الظاهرة بجدية؟

أعتقد أن هذا سؤال جيد ولكنه دقيق، بالتأكيد هناك بعض مواقع الأخبار المزيفة التي تنشر أخبارًا مزيفة عمدًا، إما للحصول على حافز مالي من خلال جذب حركة مرور تحقق عائدًا ماديًا، أو لأغراض سياسية.

وقد وضع البعض إحدى القنوات الروسية في هذه الفئة الأخيرة، لكن أعتقد أن بالنسبة لمعظم المنصات التي نستخدمها، فإن المشكلة ليست في أن المنصة تنشر الأخبار المزيفة عمدًا، بل في أن المراقبة (Moderation) صعبة للغاية ومليئة بالمجال لترجيح الكفة في اتجاهات مختلفة.

على سبيل المثال، يزعم إيلون ماسك، مالك منصة "X" (تويتر سابقًا)، أن الكثير من المراقبة قبل ملكيته كانت بمثابة خنق لحرية التعبير وفرض رقابة على وجهات النظر المحافظة، في حين يقول الكثير من الليبراليين إن نهجه الأكثر تحررًا في المراقبة يؤدي إلى انتشار واسع لمشاكل الأخبار المزيفة.

لذا، لا يزعم أي من الطرفين أن الآخر يقوم عمدًا بإنشاء ونشر الأخبار المزيفة، لكن كلا الجانبين يشعر أن من خلال تحديد قواعد أنظمة المراقبة، يمكن للمنصة أن تفيد مجموعات مختلفة.

ما الآثار السلبية الناتجة عن انتشار الأخبار الزائفة بمساعدة الخوارزميات والذكاء الاصطناعي؟

أقول إن أسهل طريقة للتفكير في الأمر هي أن الذكاء الاصطناعي هو تقنية مصممة للاتوماتيكية والتسريع، فعندما يتعلق الأمر باكتشاف أدوية جديدة وأشياء من هذا القبيل، فهذا أمر رائع.

وعندما يتعلق الأمر بإنشاء الأخبار المزيفة ونشرها، فهذا أمر مخيف حقًا، حيث كانت الأخبار المزيفة مشكلة منذ اختراع الصحافة المطبوعة (أو قبل ذلك)، ولكن عندما يتم إنشاء المعلومات ونشرها بسرعة أكبر وعلى نطاق أوسع وبتكلفة أقل، فإن ذلك يضع ضغطًا إضافيًا على نظام المعلومات الهش الذي يعتمد عليه المجتمع الديمقراطي.

مقارنة بين GPT-5 وGPT-4.. تطور الذكاء الاصطناعي من الدقة إلى العمقكل ما تريد معرفته عن GPT-5.. أقوى نموذج ذكاء اصطناعي من OpenAIأخبار التكنولوجيا | ميتا متهمة بجمع بيانات حساسة دون إذن المستخدمين.. ترامب يطلق محرك بحث ذكاء اصطناعيترامب يطلق محرك بحث ذكاء اصطناعي على"تروث سوشيال"Microsoft تختبر Gaming Copilot مساعد ذكاء اصطناعي للاعبين على Windows 11الذكاء الاصطناعي ييثير قلق العالم .. ما سبب فرض بعض الدول قيودا على استخدامه؟الذكاء الاصطناعي يطرد البشر من وظائفهم.. ما هي الوظائف المهددة؟جوجل تنفي تراجع حركة الزيارات بسبب الذكاء الاصطناعيجوجل تتيح إنشاء قصص مصورة للأطفال بالذكاء الأصطناعي ..إليك التفاصيللأول مرة منذ 6 سنوات.. OpenAI تطلق نماذج ذكاء اصطناعي مفتوحة المصدرما رؤيتك المستقبلية لاستخدام الذكاء الاصطناعي في صناعة الأخبار الكاذبة؟ هل تعتقد أن هذه الظاهرة ستتفاقم وتصبح آثارها أكثر تدميراً؟

سؤال رائع، لا أعرف، أشعر أنه مع التكرار الحالي لأنظمة الذكاء الاصطناعي، لقد وصلنا بالفعل إلى النقطة التي لا يستغرق فيها إنشاء أخبار مزيفة مقنعة للغاية أي وقت أو مال تقريبًا، في حين أن إنتاج صحافة أصلية وعالية الجودة لا يزال يتطلب الكثير من الوقت والمال.

إذن، ماذا سيأتي بعد ذلك؟ من ناحية، ربما يصبح الذكاء الاصطناعي جيدًا لدرجة أنه يمكنه أن يخبرنا بسرعة عن مقاطع الفيديو والمقالات المزيفة، حيث سيساعد ذلك بشكل كبير بالتأكيد، لكنني لست متأكدًا من أن التكنولوجيا ستصل إلى هذا الحد.

من ناحية أخرى، أظن أنه مع استمرار تقدم الذكاء الاصطناعي، سيتم استخدامه بشكل أكبر لتخصيص ما يراه الناس عبر الإنترنت لزيادة الإقناع إلى أقصى حد.

فعلى سبيل المثال، قد يستخدم منتجو الأخبار المزيفة الذكاء الاصطناعي لقصف الناس بمقالات ومقاطع فيديو تم تخصيصها لجذب كل مستخدم على حدة، لذا، من المحتمل أن تصبح الأمور أفضل وأسوأ في آن واحد.

من وجهة نظرك بروفيسور نوح، وفي ظل التخوفات السائدة، هل سيحل الذكاء الاصطناعي محل عدد كبير من العاملين في مجالي الصحافة والإعلام؟

إنه سؤال مهم جدًا، لكنني حقًا لا أعرف، دعني أقول فقط إن الكثير من الوظائف والمنظمات وحتى المفاهيم عن العمل ستتغير، لكنني لست شجاعًا بما يكفي لتقديم أي تفاصيل حول هذا الأمر.

أنا متأكد من أن أي شيء أتنبأ به أنا أو أي شخص آخر حول هذا الموضوع سيتبين أنه خاطئ إلى حد كبير، سيكون تحولًا اجتماعيًا واقتصاديًا كبيرًا لدرجة أنه من الصعب على أي شخص حتى تخمين كيف سيتطور.

كيف يمكن للوسط الصحفي والإعلامي استغلال الذكاء الاصطناعي لصالحه، لرفع كفاءة العمل بشكل احترافي، دون التأثير سلباً على دور العنصر البشري؟

الشيء الرئيسي، كما أقول، هو التفكير فيه كمساعد، يمكن لكتاب الأعمدة استخدامه لاقتراح أفكار للمقالات، ثم يمكن للكاتب أن يقرر ما إذا كانت أي من هذه الاقتراحات تستحق الاستكشاف.

يمكن للصحفيين أيضًا استخدامه لاقتراح واستكشاف أفكار للقصص، لكنهم لا يزالون يقومون بالعمل الصحفي الحقيقي "القديم" للتحقيق والإبلاغ عن أي منها.

يمكن أن تكون المساعدة في الكتابة والتحرير جيدة وتسرع الأمور، لكن يجب أن يكون البشر دائمًا هناك للتحقق من النتيجة وتوجيه العملية.

تمامًا كما يساعدنا بحث جوجل جميعًا في العثور على المعلومات على الرغم من أن هذه المعلومات ليست مثالية، فالأمر نفسه ينطبق على الذكاء الاصطناعي.

لذا، أعتقد أنه إذا نظر الصحفيون وغيرهم من المهنيين الإعلاميين إليه بنفس الطريقة التي ينظرون بها إلى أجهزة الكمبيوتر، والإنترنت، وويكيبيديا، وجوجل، ووسائل التواصل الاجتماعي، وما إلى ذلك، كأداة معيبة ولكنها لا تزال تساعد أجزاء من سير العمل على أن تحدث بشكل أسرع، فهذه طريقة معقولة لتبني الذكاء الاصطناعي.

ما النصيحة التي تقدمها للعاملين في المجال الإعلامي والجمهور على حد سواء، لمواجهة خوارزميات الأخبار الزائفة، واستخدام الذكاء الاصطناعي بفاعلية للكشف عنها؟

خلاصة القول بالنسبة لي هي أننا يمكننا تثقيف الجمهور والمهنيين الإعلاميين حول كيفية عمل أدوات الذكاء الاصطناعي، وما تفعله بشكل جيد، وما هي حدودها، وكيف تُستخدم لإنشاء ونشر الأخبار المزيفة، وما هو وضع أنظمة المراقبة القائمة على الذكاء الاصطناعي، وما إلى ذلك.

لكن التثقيف العام هو مجرد جانب واحد من هذا الأمر، فنحن بحاجة حقًا إلى أن يدفع الصحفيون والجمهور شركات التكنولوجيا والحكومات لفعل ما بوسعهم للمساعدة في معالجة هذه المشكلة النظامية الأكبر.

طباعة شارك الذكاء الاصطناعي وسائل التواصل الاجتماعي الشائعات الخوارزميات البروفيسور نوح جيانسيراكوزا جامعة براون أوقات الأزمات الذكاء الاصطناعي التوليد

المصدر: صدى البلد