نسب احتيال تصل 60%.. الذكاء الاصطناعي يهدد الأمن الرقمي
تاريخ النشر: 5th, November 2024 GMT
تابع أحدث الأخبار عبر تطبيق
يواصل الذكاء الاصطناعي تحقيق تقدم مذهل في مختلف المجالات، إلا أن هناك جانبًا مظلمًا لهذا التطور، خاصة فيما يتعلق بالمخاطر الأمنية التي قد يتسبب فيها، فقد أظهرت دراسة حديثة أن واجهة البرمجة الصوتية الخاصة بنموذج ChatGPT-4o من OpenAI قد تُستغل من قبل مجرمي الإنترنت لتنفيذ عمليات احتيال مالي، ووفقًا لما أوردته "البوابة العربية للأخبار التقنية"، فقد تراوحت معدلات نجاح هذه العمليات بين منخفضة ومتوسطة، مما يسلط الضوء على الحاجة الماسة لتطوير آليات أمان أكثر تطورًا.
يُعتبر ChatGPT-4o أحدث نموذج من OpenAI الذي يجمع بين قدرات الذكاء الاصطناعي في فهم وتحليل النصوص والصوت والصور، مما يمنحه إمكانيات هائلة، إلا أن هذه القدرات، حسب ما ذكر باحثون من جامعة إلينوي الأمريكية، تُستغل أحيانًا في عمليات احتيال، حيث تُستخدم أدوات تكنولوجيا الصوت التي يعتمد عليها النموذج في اختراق أنظمة المصادقة الثنائية، وإجراء عمليات تحويل مالية مزورة، فضلاً عن سرقة البيانات الحساسة مثل حسابات البريد الإلكتروني ووسائل التواصل الاجتماعي.
هذه الأدوات البرمجية التي تستخدم الصوت، تمكن المهاجمين من التلاعب في البيانات وإدخال التعليمات اللازمة عبر الويب، ما يسمح لهم بتجاوز بعض القيود التي وضعتها OpenAI للحد من إساءة استخدام النموذج، وعلى الرغم من أن النموذج يُرفض غالبًا التعامل مع البيانات الحساسة، فإن الباحثين نجحوا في إيجاد طرق لتحفيزه على التجاوب مع هذه المحاولات.
نتائج الدراسة: عمليات احتيال "رخيصة" وفعالةفي التجارب التي أُجريت، أظهر الباحثون أن معدلات نجاح عمليات الاحتيال تراوحت بين 20% و60%، مع حاجة كل محاولة إلى نحو 26 خطوة عبر المتصفح لإتمام العملية، ما استغرق في الحالات الأكثر تعقيدًا حوالي 3 دقائق فقط، ومن حيث التكلفة، أظهرت النتائج أن تكلفة تنفيذ عملية احتيال واحدة كانت منخفضة للغاية، إذ تراوحت بين 75 سنتًا أميركيًا للعمليات البسيطة مثل سرقة بيانات حسابات Gmail، و2.51 دولار فقط في عمليات التحويل المصرفي الأكثر تعقيدًا.
استجابة OpenAI والتحديات المستقبليةوفي رد فعلها على هذه الدراسة، أكدت OpenAI أنها تبذل جهودًا مستمرة لتحسين الأمان في نماذجها المستقبلية، وأشارت إلى أن النموذج الأحدث "o1-preview" يتمتع بقدرات متقدمة في مقاومة محاولات الاحتيال، حيث حقق تقييم أمان بنسبة 93% مقارنة بـ71% في النموذج السابق، كما أضافت الشركة أنها ملتزمة بتطوير آليات أكثر قوة لمنع الاستخدامات الضارة، بما في ذلك تقييد توليد الأصوات في نموذج GPT-4o إلى مجموعة أصوات مصرح بها فقط لتجنب التزييف الصوتي.
المصدر: البوابة نيوز
كلمات دلالية: الامن الرقمي الذكاء الاصطناعي تكنولوجيا عمليات احتيال مجرمي الإنترنت
إقرأ أيضاً:
الذكاء الاصطناعي يقلب موازين البحث في في غوغل
يُعد هذا التوسع امتدادًا للتحول الذي بدأتْه غوغل قبل عام، حين أطلقت ملخصات محادثة تحت اسم "ملخصات الذكاء الاصطناعي"، والتي تظهر بشكل متزايد في أعلى صفحة النتائج، وتحتل مكانةً أعلى من الروابط التقليدية في نتائج البحث.
وبحسب ما أعلنت غوغل، فإن نحو 1.5 مليار شخص يتفاعلون بانتظام مع هذه الملخصات، كما أصبح المستخدمون يدخلون استفسارات أطول وأكثر تعقيدًا.
وفي كلمة أمام حضور كبير في قاعة مؤتمرات قريبة من مقر الشركة في ماونتن فيو بكاليفورنيا، قال سوندار بيتشاي، الرئيس التنفيذي لشركة غوغل: "كل هذا التقدم يعني أننا دخلنا مرحلة جديدة في تطور منصتنا المبنية على الذكاء الاصطناعي، حيث تحولت عقود من الأبحاث إلى واقع يستفيد منه الناس في كل أنحاء العالم".
الذكاء الاصطناعي يُعيد تشكيل سلوك المستخدم
وعلى الرغم من توقعات سوندار بيتشاي وفريق الإدارة في غوغل بأن ميزة "النظرة العامة للذكاء الاصطناعي" ستزيد من عمليات البحث والنقر على الروابط، إلا أن الواقع لم يكن على هذا النحو حتى الآن، بحسب بيانات شركة BrightEdge المتخصصة في تحسين محركات البحث.
وأظهرت دراسة حديثة أجرتها الشركة انخفاضًا بنسبة 30% في معدلات النقر على نتائج بحث غوغل خلال العام الماضي، مشيرة إلى أن السبب الرئيسي هو اكتفاء المستخدمين بالمعلومات المقدمة عبر الملخصات الذكية دون الحاجة للنقر على الروابط.
ويُعد قرار إتاحة "وضع الذكاء الاصطناعي" على نطاق واسع بعد فترة اختبار قصيرة دليلًا على ثقة غوغل في دقة التكنولوجيا وعدم انتشار المعلومات المضللة عبرها، وهو ما يعكس أيضًا وعي الشركة بالمنافسة الشديدة التي تواجهها من أدوات بحث أخرى مدعومة بالذكاء الاصطناعي مثل ChatGPT وPerplexity.
الصعود السريع للذكاء الاصطناعي يُعيد رسم خريطة المنافسة
برز الصعود السريع لبدائل الذكاء الاصطناعي كمصدر اهتمام رئيسي في الإجراءات القانونية التي قد تؤدي إلى اضطرار غوغل إلى إعادة هيكلة أجزاء من إمبراطوريتها على الإنترنت، بعد أن أعلن قاضٍ فيدرالي أمريكي أن محرك بحث الشركة يمثل احتكارًا غير قانوني.
وأفاد إيدي كيو، المدير التنفيذي لشركة Apple، خلال شهادته في المحاكمة مبكرًا هذا الشهر، بأن عمليات البحث عبر غوغل من خلال متصفح Safari على iPhone انخفضت، نتيجة تحول المستخدمين إلى بدائل تعتمد على الذكاء الاصطناعي.
وأشارت غوغل إلى التغيرات الناتجة عن صعود الذكاء الاصطناعي كسبب رئيس لضرورة إجراء تعديلات طفيفة فقط على آلية عمل محرك بحثها، مشيرة إلى أن هذه التكنولوجيا تعيد تشكيل المشهد التنافسي بشكل جذري.
لكن على ما يبدو، فإن الاعتماد المتزايد لغوغل على الذكاء الاصطناعي حتى الآن ساعد محرك بحثها في الحفاظ على مكانته كبوابة رئيسية للإنترنت، وهو العامل الرئيسي الذي يجعل قيمتها السوقية ضمن شركتها الأم ألفابت تصل إلى تريليوني دولار (1.8 تريليون يورو).
وبحسب بيانات جمعها موقع onelittleweb.com، بلغ عدد زيارات غوغل الشهرية خلال العام المنتهي في مارس الماضي 136 مليار زيارة، أي ما يعادل 34 ضعف الزيارات الشهرية لموقع ChatGPT البالغة أربعة مليارات زيارة.
وعند سؤال "وضع الذكاء الاصطناعي" الخاص بغوغل من قبل صحفي في وكالة أسوشيتد برس، عما إذا كان اعتماد الذكاء الاصطناعي قد يؤثر سلبًا على محرك البحث، أكد أن ذلك غير محتمل، مشيرًا إلى أنه قد يعزز مكانة الشركة أكثر.
ورد "وضع الذكاء الاصطناعي": "نعم، من المحتمل جدًا أن يجعل هذا الوضع شركة غوغل أقوى، خاصةً في مجال الوصول إلى المعلومات والتأثير على الإنترنت". وحذّرت الميزة أيضًا من أن الناشرين على الويب قد يواجهون انخفاضًا في الزيارات القادمة من نتائج البحث.
برلماني يطالب بإجراء تعديل تشريعي شامل في قانون الضريبة على العقارات المبنية