كيف يتم استغلال إيلون ماسك في عمليات الاحتيال بالذكاء الاصطناعي؟
تاريخ النشر: 19th, August 2024 GMT
في إطار سلسلة جديدة من جرائم الاحتيال الإلكتروني، أصبح الذكاء الاصطناعي أداة قوية بيد المحتالين، وهذا أدى إلى ارتفاع كبير في عمليات الاحتيال المالي. ومن أشهر هذه الجرائم انتحال هوية الملياردير الأميركي إيلون ماسك، وخداع آلاف الضحايا حول العالم، وفقا لما ذكره تقرير في صحيفة نيويورك تايمز.
يحكي التقرير قصة أحد ضحايا هذه العمليات، وهو شخص متقاعد عن العمل يبحث عن فرصة لاستثمار مدخراته، فشاهد مقطع فيديو لإيلون ماسك يتحدث فيه عن فرصة استثمارية مثيرة.
عدّل المحتالون هذا الفيديو، الذي ظهر فيه إيلون ماسك، من مقابلة سابقة له في أحد البرامج، لكنهم استبدلوا صوته بنسخة مطابقة باستخدام تقنيات الذكاء الاصطناعي. وتمكّنت تلك التقنيات من تغيير حركات الفم بدقة لتتناسب مع النص الجديد الذي كتبوه للنسخة الرقمية المزيفة من إيلون ماسك.
هذه الظاهرة، المعروفة باسم تقنية "التزييف العميق" (deepfake)، انتشرت بكثافة خلال الفترة الماضية، وهي تظهر مقاطع فيديو مختلفة لنسخة مزيفة من إيلون ماسك تحاول خداع المستثمرين. ومن المتوقع أن تساهم هذه الفيديوهات المزيفة في خسائر بمليارات الدولارات من جراء عمليات الاحتيال كل عام، وفقا لتقديرات شركة "ديلويت". وبهذا تدفع عمليات الاحتيال الإلكتروني إلى مستوى جديد، وهذا يخلق أزمة تعاني الجهات الأمنية في احتوائها.
ولا يكلف إنتاج هذه المقاطع المصورة سوى بضع دولارات فقط، ويمكن إنتاجها في دقائق. كما يُروَّج لها على وسائل التواصل الاجتماعي بعدة أساليب، ومنها الإعلانات المموّلة على فيسبوك، وهذا يضاعف من انتشارها، كما أشار تقرير نيويورك تايمز.
وأوضح فرانشيسكو كافالي، المؤسس المشارك ورئيس قسم استخبارات التهديدات في شركة "سينسيتي" -وهي شركة تراقب وتكتشف عمليات التزييف العميق- أنه "ربما نشهد أكبر عمليات احتيال قائمة على التزييف العميق على الإطلاق".
كما يشير التقرير إلى أن مقاطع الفيديو غالبا ما تكون واقعية بدرجة كبيرة، بحيث تجسد نبرة صوت وأسلوب كلام إيلون ماسك الشهير ولهجته الجنوب أفريقية.
ويبدأ المحتالون باستخدام مقطع فيديو حقيقي لماسك، كمقابلة أجراها مع أحد الصحف أو البرامج مثلا، ثم يتلاعبون بحركات الفم باستخدام تقنيات مزامنة الشفاه، التي تعدّل طريقة تحدث الشخص. بعدها يضيفون صوتا بالذكاء الاصطناعي عبر أدوات استنساخ الصوت، التي تتولى نسخ أي صوت من أي مقاطع فيديو سابقة.
وقد يكون المنتج النهائي، الذي قد يتضمن صورا مزيفة تُحاكي مؤسسات إخبارية، مقنعا للغاية بالنسبة لمستخدمي الإنترنت العاديين.
ووفقا لشركة "سينسيتي"، التي حللت أكثر من ألفي مقطع فيديو من مقاطع التزييف العميق، كان السيد ماسك هو أكثر المتحدثين انتشارا في هذا النوع من المقاطع. وتوصلت الشركة إلى أنه ظهر في نحو 25% من إجمالي مقاطع الفيديو المزيفة منذ أواخر العام الماضي. كما ظهر في نحو 90% من مقاطع الفيديو التي ركزت على العملات الرقمية.
لكن لم يقتصر الأمر على ماسك وحده، فقد ظهر في هذه المقاطع وارين بافت وهو أحد أشهر المستثمرين عالميا، وكذلك جيف بيزوس مؤسس شركة أمازون، وفق ما ذكرت نيويورك تايمز.
نطاق هذه العمليات الاحتيالية واسع للغاية، إذ يكشف البحث في مكتبة إعلانات فيسبوك عن مئات الآلاف من الإعلانات المرتبطة بمقاطع الفيديو المزيفة، التي ظهر في العديد منها إيلون ماسك. كما امتلأ موقع يوتيوب أيضا بهذا النوع من المقاطع، التي تستخدم غالبا علامة توحي بأن الفيديو هو "بث مباشر"، لكنه في الواقع فيديو مزيف ومُسجّل مسبقا.
وذكرت منصة يوتيوب في بيان أنها حذفت أكثر من 15.7 مليون قناة، وأكثر من 8.2 ملايين مقطع فيديو، لانتهاك قواعدها الإرشادية في الفترة بين يناير/كانون الثاني ومارس/آذار من هذا العام، ومعظمها ينتهك سياساتها ضد المحتوى الدعائي الخادع.
ودفع انتشار الإعلانات المزيفة على فيسبوك أندرو فوريست، وهو ملياردير أسترالي استُخدمت مقاطعه في إعلانات مزيفة على المنصة، إلى رفع دعوى مدنية ضد شركة ميتا، جراء إهمالها في كيفية إدارة نشاطها الإعلاني. وزعم أن هذه الإعلانات على فيسبوك أغرت المستخدمين الأبرياء بالمشاركة في استثمارات ضارة، وفقا لتقرير نيويورك تايمز.
وكان رد شركة ميتا أنها تدرب أنظمة الكشف الآلي لرصد عمليات الاحتيال على فيسبوك، ولكنها أشارت أيضا إلى مدى صعوبة هذا الأمر، إذ يغيّر المحتالون من تكتيكاتهم باستمرار للإفلات من عملية الرصد.
صعوبة الاكتشافوتنتشر على الإنترنت الآن تقارير مماثلة لأشخاص تعرضوا لعمليات احتيال من هذا النوع وخسروا آلاف الدولارات، وفقد بعضهم مدخرات حياته. وفي مايو/أيار الماضي، أصدرت هيئة الأوراق المالية والعقود الآجلة في هونغ كونغ تحذيرا من عمليات الاحتيال المتعلقة بمقاطع فيديو يظهر بها إيلون ماسك.
وفي مرحلة سابقة من هذا العام، حذّرت لجنة التجارة الفدرالية ومكتب التحقيقات الفدرالي (إف بي إي) المواطنين الأميركيين من ارتفاع وتيرة الجرائم السيبرانية وعمليات الاحتيال التي تعتمد على الذكاء الاصطناعي، وفقا للتقرير.
وذكر مكتب التحقيقات الفدرالي في بيان له: "يستفيد المحتالون من الذكاء الاصطناعي كعامل يضاعف قوتهم بأساليب تزيد من فعالية الهجمات الإلكترونية وغيرها من الأنشطة الإجرامية الأخرى مما يصعب اكتشافها".
يشير تقرير نيويورك تايمز إلى انتشار هذه العمليات أكثر، بمقاطع الفيديو التي يظهر بها إيلون ماسك، منذ العام الماضي، خاصة بعد انتشار تقنيات الذكاء الاصطناعي المتطورة وإتاحتها أمام الجميع، مما يسمح لأي شخص باستنساخ أصوات المشاهير أو تعديل مقاطع الفيديو بدقة عالية.
ويشير خبراء المجال إلى أن مقاطع الفيديو التي ينتجها الذكاء الاصطناعي ليست مثالية، إذ قد يبدو صوت ماسك آليا في بعضها، كما أن فمه لا يتماشى دائما مع كلماته. لكنها تبدو مقنعة بما يكفي لبعض الأشخاص المستهدفين من عملية الاحتيال، كما أن مستوى المقاطع يتحسن بمرور الوقت.
ووفقا لشركة "سينسيتي"، فإن تكلفة إنشاء مثل هذه الفيديوهات لا تتعدى 10 دولارات، كما يمكن جمع مقاطع الفيديو المزيفة باستخدام عدة أدوات مجانية ورخيصة في أقل من 10 دقائق. وغالبا ما يستهدف المحتالون مستخدمي الإنترنت من كبار السن ممن قد يعرفون العملات الرقمية أو الذكاء الاصطناعي أو إيلون ماسك، ولكنهم ليسوا على دراية بأكثر الطرق أمانا للاستثمار، كما أشار التقرير.
هذا التطور في تقنيات الذكاء الاصطناعي وفي تقنية التزييف العميق كشف عن بُعد جديد وخطير لعمليات الاحتيال الإلكتروني، ومع استمرار تطور التقنية، يجب أن تتطور أيضا أساليب حماية الأشخاص من هذه الحيل الخداعية.
المصدر: الجزيرة
كلمات دلالية: حراك الجامعات حريات الذکاء الاصطناعی عملیات الاحتیال التزییف العمیق نیویورک تایمز مقاطع الفیدیو مقطع فیدیو على فیسبوک إیلون ماسک أکثر من ظهر فی
إقرأ أيضاً:
البرلمان الأوروبي يُجرّم إنتاج ونشر الصور الجنسية الإباحية للأطفال المُولَّدة بالذكاء الاصطناعي
صوّت أعضاء البرلمان الأوروبي بأغلبية ساحقة لصالح تجريم الصور التي يتم إنشاؤها باستخدام الذكاء الاصطناعي والمتعلقة بالاعتداء الجنسي على الأطفال، ويغطي القانون الجديد جرائم الاستمالة والبث المباشر والابتزاز الجنسي وسن الرضا، بهدف سد الثغرات القانونية وتعزيز حماية الأطفال. اعلان
في تصويت تاريخي أُجري يوم الثلاثاء، صوّت البرلمان الأوروبي بأغلبية ساحقة لصالح توجيه قانوني من شأنه تجريم إنشاء وحيازة ومشاركة المواد الإباحية للأطفال التي يتم إنتاجها باستخدام الذكاء الاصطناعي.
ويغطي النص الجديد الجرائم المتعلقة بالاستمالة – وهي ممارسة "مصادقة" شخص بالغ لطفل بهدف ارتكاب اعتداء جنسي – بالإضافة إلى الابتزاز الجنسي والبث المباشر، ويهدف إلى معالجة التعريفات القانونية وقضايا سن الرضا في جميع أنحاء الاتحاد الأوروبي.
وصادق البرلمان على النص بأغلبية 599 صوتًا مقابل صوتين فقط وامتناع 62 عضوًا عن التصويت، وهو ما يعكس إجماعًا نادرًا بين مختلف الأطياف السياسية حول قضية حساسة كهذه.
وقال جيروين لينايرز (هولندا/الحزب الشعبي الأوروبي)، مقرر النص، ليورونيوز: "سيتم التعامل معها بنفس الطريقة تمامًا كما لو كانت مواد حقيقية تتعلق بالاعتداء على الأطفال"، موضحًا أن هذه النماذج تعتمد في تدريبها على مواد اعتداء جنسي حقيقي على الأطفال، وأن استخدام الذكاء الاصطناعي في هذا المجال يشكل خطوة قريبة نحو الاعتداء الجنسي الحقيقي.
وكشفت دراسة حديثة أجرتها منظمة "حماية الأطفال"، غير الربحية ومقرها هلسنكي، عن وجود علاقة بين مشاهدة المحتوى المسيء وارتكاب جرائم الاتصال الجنسي ضد الأطفال، رغم عدم إثبات رابطة سببية مباشرة.
وأشارت الدراسة إلى أن 52% من المشاركين خشوا أن تؤدي مشاهدة هذا النوع من المحتوى إلى ارتكاب إساءة فعلية، بينما أعرب 44% منهم عن أفكار تتعلق بإجراء اتصال مع قاصر، واعترف 37% بأنهم تحركوا فعليًّا بناءً على تلك الأفكار.
وأشار لينايرز إلى أن المحتوى الإباحي للأطفال الذي تم إنشاؤه بواسطة الذكاء الاصطناعي قد زاد بنسبة تزيد عن 1000% خلال العام الماضي.
Relatedأكبر قضية اعتداء جنسي في البلاد.. محكمة فرنسية تحكم على جراح سابق بالسجن 20 عامًااغتصاب في الواقع الافتراضي؟ شرطة بريطانيا تحقق لأول مرة في اعتداء جنسي داخل الميتافيرسمؤسسة مراقبة الإنترنت: أكثر من 291 ألف بلاغ عن صور اعتداء جنسي على الأطفال في أوروباوحظي موقف البرلمان الأوروبي بترحيب واسع من قبل الجهات العاملة في قطاع التكنولوجيا ومنظمات حماية الأطفال. وفي بيان مشترك، أعربت كل من DotEurope، مجموعة ضغط تكنولوجية تضم شركات مثل OpenAI وTikTok وSnapchat وMeta، وEclag (المجموعة الأوروبية للدفاع عن إرث الاعتداء الجنسي على الأطفال)، عن سعادتها بالتعاون لأول مرة على مستوى الاتحاد الأوروبي لمكافحة خطر الذكاء الاصطناعي في مجال الاستغلال الجنسي للأطفال، وأعربتا عن أملهما في مواصلة التعاون لجعل هذا النوع من الجرائم شيئًا من الماضي.
ومع ذلك، فإن تصويت البرلمان لا يمثل الخطوة الأخيرة. ففي الوقت الحالي، ستبدأ المفاوضات بين البرلمان الأوروبي ومجلس الاتحاد الأوروبي، الذي يمثل الحكومات الوطنية، والمفوضية الأوروبية، وسيحدد هذا "الحوار التجريبي" الشكل النهائي للقانون.
كان مجلس الاتحاد الأوروبي قد اعتمد موقفه الخاص في ديسمبر الماضي، لكنه امتنع عن تضمين تجريم المواد الإباحية التي تستغل الأطفال في المنتجات التي ينتجها الذكاء الاصطناعي، مما دفع أعضاء البرلمان الأوروبي ومؤسسات الصناعة والدفاع إلى دعوة الوزراء للانحياز إلى موقف البرلمان.
وأظهرت مفاوضات المجلس أيضًا أن سن الرشد كان موضع خلاف. وقد أصدر تحالف من سبع دول – بلجيكا وفنلندا وأيرلندا ولاتفيا ولوكسمبورغ وسلوفينيا والسويد – بيانًا مشتركًا حذر فيه من أن الأطفال الذين يبلغون سن الرضا الجنسي يمكنهم الموافقة قانونيًا على الأفعال الجنسية، لكنهم يظلون معرضين للخطر ويحتاجون إلى حماية قانونية قوية.
ويتجاوز التوجيه المقترح موضوع الصور المتعلقة بالذكاء الاصطناعي، حيث يقدم إطارًا قانونيًا مشتركًا في جميع أنحاء الاتحاد الأوروبي لمكافحة إساءة معاملة الأطفال عبر الإنترنت، ويعرّف بوضوح الاستمالة والابتزاز الجنسي كجرائم جنائية، ويهدف إلى حظر البث المباشر للأفعال المسيئة، وإلغاء الحدود الزمنية للإبلاغ عن الاعتداء الجنسي، نظرًا لأن العديد من الضحايا لا يتقدمون بالشكوى إلا بعد سنوات، وكذلك حظر "كتيبات الاستغلال الجنسي للأطفال" التي تحتوي على تعليمات حول كيفية التلاعب بالأطفال وتجنب الاكتشاف.
وفي كلمة له خلال المناقشة العامة، دعا مفوض الشؤون الداخلية ماغنوس برونر إلى الطموح والوحدة، قائلاً: "لا يمكننا أبدًا أن نكون طموحين بما فيه الكفاية. لا توجد أولوية أهم من حماية أطفالنا".
انتقل إلى اختصارات الوصولشارك هذا المقالمحادثة