تحذير خطير.. ChatGPT-4o قد يصبح أداة لسرقة الأموال
تاريخ النشر: 5th, November 2024 GMT
تابع أحدث الأخبار عبر تطبيق
تزداد المخاوف من الذكاء الاصطناعي، على الرغم من الفوائد المتعددة، إذ كشفت دراسة حديثة عن إمكانية استغلال المجرمين لواجهة برمجة التطبيقات الصوتية لنموذج ChatGPT-4o من شركة Open AI لتنفيذ عمليات احتيال مالي، وفقًا لما نقلته مجلة ديلي ميل حيث أظهرت الدراسة أن نسب نجاح الاحتيال باستخدام هذه التقنية تتراوح بين منخفضة ومتوسطة.
يعد ChatGPT-4o من أحدث إصدارات الذكاء الاصطناعي، حيث يمتلك قدرة عالية على استيعاب النصوص، الأصوات، والمرئيات، إلى جانب أنظمة أمان صُممت للحد من إساءة الاستخدام، لكن مع تقدم تقنيات التزييف الصوتي العميق وأدوات تحويل النص إلى صوت، يتزايد احتمال إساءة استخدام الذكاء الاصطناعي في الاحتيالات، ما قد يسفر عن خسائر مالية كبيرة.
تحديات الأمان وأساليب الاحتيال
وفقًا لدراسة من جامعة إلينوي، فإن أدوات الذكاء الاصطناعي الحديثة تعاني من نقص في آليات الحماية الكافية، واستعرض الباحثون أنواع الاحتيالات المحتملة، مثل التحويلات المصرفية وسرقة البيانات الرقمية، والتي يمكن تنفيذها عبر أدوات ChatGPT-4o المصممة للتفاعل مع المواقع الإلكترونية وإدارة الأكواد المتعلقة بالمصادقة الثنائية، مع القدرة على تجاوز بعض القيود الأمنية.
تفاصيل عن نجاح عمليات الاحتيال في تجربة أجراها الباحثون.
وأظهرت النتائج أن عمليات الاحتيال الصوتي قد تحقق نسب نجاح تصل إلى 60%، باستخدام 26 خطوة متتابعة عبر المتصفح، وكانت من بين العمليات الناجحة سرقة حسابات Gmail بنسبة 60%، بينما بلغت تكلفة عمليات تحويل مصرفي معقدة 2.51 دولار فقط.
رد Open AI
صرحت شركة Open AI بأن نموذجها الجديد "o1-preview" يتميز بأمان أعلى من النماذج السابقة، حيث حقق نسبة أمان تبلغ 93% مقارنة بـ71% في ChatGPT-4o.
وأكدت الشركة التزامها بمواصلة تعزيز الأمان وتقييد استخدام الذكاء الاصطناعي لتوليد الأصوات المعتمدة فقط، مما يقلل من احتمالات التزييف الصوتي.
المصدر: البوابة نيوز
كلمات دلالية: مخاطره دراسة نموذج ChatGPT 4o الذکاء الاصطناعی
إقرأ أيضاً:
زوكربيرغ: الذكاء الاصطناعي الخارق أصبح وشيكًا
وضع مارك زوكربيرغ، الرئيس التنفيذي لشركة "ميتا"، خطته لمستقبل الذكاء الاصطناعي، وتتمحور حول منح المستخدمين "ذكاءً خارقًا شخصيًا".
في رسالة، رسم رئيس "ميتا" صورةً لما هو آتٍ، ويعتقد أنه أقرب مما نعتقد. ويقول إن فرق عمله تشهد بالفعل بوادر تقدم مبكرة.
كتب زوكربيرغ "خلال الأشهر القليلة الماضية، بدأنا نلمس لمحاتٍ من أنظمة الذكاء الاصطناعي لدينا تُحسّن نفسها. التحسن بطيءٌ حاليًا، ولكن لا يمكن إنكاره. تطوير الذكاء الخارق أصبح وشيكًا".
فما الذي يريد تحقيقه بهذا الذكاء الاصطناعي الخارق ؟
دعك من الذكاء الاصطناعي الذي يُؤتمت العمل المكتبي الممل فحسب، فرؤية زوكربيرغ وشركته "ميتا" للذكاء الخارق الشخصي أكثر عمقًا. إنه يتخيل مستقبلًا تخدم فيه التكنولوجيا نمونا الفردي، وليس إنتاجيتنا فحسب.
على حد تعبيره، ستكون الثورة الحقيقية أن "يتمتع كل شخص بذكاء خارق شخصي يساعد على تحقيق أهدافه، وخلق ما يرغب برؤيته في العالم، وخوض أي مغامرة، وأن يكون صديقًا أفضل لمن يحب، وأن ينمو ليصبح الشخص الذي يطمح إليه".
وصرح روكربيرغ "هذا يختلف عن غيره في هذا المجال ممن يعتقدون أن الذكاء الخارق يجب أن يُوجَّه بشكل مركزي نحو أتمتة جميع الأعمال القيّمة، ومن ثم ستعيش البشرية على نصيبها من إنتاجه".
اقرأ أيضا... مايكروسوفت تتيح مشاركة سطح المكتب مع مساعد ذكاء اصطناعي
ويقول زوكربيرغ إن "ميتا" تراهن على الفرد عندما يتعلق الأمر بالذكاء الاصطناعي الخارق، حيث تؤمن الشركة بأن التقدم كان دائمًا نتيجة سعي الناس وراء أحلامهم، وليس نتيجة العيش على فتات آلة خارقة الكفاءة.
إذا كان محقًا، فسنقضي وقتًا أقل في التعامل مع البرامج، ووقتًا أطول في الإبداع والتواصل. سيعيش هذا الذكاء الاصطناعي الشخصي في أجهزة مثل النظارات الذكية، ليفهم عالمنا لأنه يستطيع "رؤية ما نراه، وسماع ما نسمعه".
بالطبع، هو يعلم أن هذا أمر قوي، بل وخطير. يُقر زوكربيرغ بأن الذكاء الخارق سيُثير مخاوف جديدة تتعلق بالسلامة، وأنه سيتعين على "ميتا" توخي الحذر بشأن ما تُطلقه للعالم. ومع ذلك، يُجادل بأن الهدف يجب أن يكون تمكين الناس قدر الإمكان.
يعتقد زوكربيرغ أننا نقف الآن عند مفترق طرق. فالخيارات التي نتخذها في السنوات القليلة القادمة ستحدد كل شيء.
وحذر قائلاً: "يبدو أن ما تبقى من هذا العقد سيكون على الأرجح الفترة الحاسمة لتحديد المسار الذي ستسلكه هذه التكنولوجيا"، واصفًا إياها بالاختيار بين "التمكين الشخصي أو قوة تُركز على استبدال قطاعات واسعة من المجتمع".
لقد اتخذ زوكربيرغ قراره. وهو يُركز موارد "ميتا" الهائلة على بناء مستقبل الذكاء الخارق الشخصي هذا.
مصطفى أوفى (أبوظبي)
كم عمر الدرع وأبناء درع السودان وهل لديهم ثقافة حرب عمرها يتجاوز العشرين عام