تحذير خطير.. ChatGPT-4o قد يصبح أداة لسرقة الأموال
تاريخ النشر: 5th, November 2024 GMT
تابع أحدث الأخبار عبر تطبيق
تزداد المخاوف من الذكاء الاصطناعي، على الرغم من الفوائد المتعددة، إذ كشفت دراسة حديثة عن إمكانية استغلال المجرمين لواجهة برمجة التطبيقات الصوتية لنموذج ChatGPT-4o من شركة Open AI لتنفيذ عمليات احتيال مالي، وفقًا لما نقلته مجلة ديلي ميل حيث أظهرت الدراسة أن نسب نجاح الاحتيال باستخدام هذه التقنية تتراوح بين منخفضة ومتوسطة.
يعد ChatGPT-4o من أحدث إصدارات الذكاء الاصطناعي، حيث يمتلك قدرة عالية على استيعاب النصوص، الأصوات، والمرئيات، إلى جانب أنظمة أمان صُممت للحد من إساءة الاستخدام، لكن مع تقدم تقنيات التزييف الصوتي العميق وأدوات تحويل النص إلى صوت، يتزايد احتمال إساءة استخدام الذكاء الاصطناعي في الاحتيالات، ما قد يسفر عن خسائر مالية كبيرة.
تحديات الأمان وأساليب الاحتيال
وفقًا لدراسة من جامعة إلينوي، فإن أدوات الذكاء الاصطناعي الحديثة تعاني من نقص في آليات الحماية الكافية، واستعرض الباحثون أنواع الاحتيالات المحتملة، مثل التحويلات المصرفية وسرقة البيانات الرقمية، والتي يمكن تنفيذها عبر أدوات ChatGPT-4o المصممة للتفاعل مع المواقع الإلكترونية وإدارة الأكواد المتعلقة بالمصادقة الثنائية، مع القدرة على تجاوز بعض القيود الأمنية.
تفاصيل عن نجاح عمليات الاحتيال في تجربة أجراها الباحثون.
وأظهرت النتائج أن عمليات الاحتيال الصوتي قد تحقق نسب نجاح تصل إلى 60%، باستخدام 26 خطوة متتابعة عبر المتصفح، وكانت من بين العمليات الناجحة سرقة حسابات Gmail بنسبة 60%، بينما بلغت تكلفة عمليات تحويل مصرفي معقدة 2.51 دولار فقط.
رد Open AI
صرحت شركة Open AI بأن نموذجها الجديد "o1-preview" يتميز بأمان أعلى من النماذج السابقة، حيث حقق نسبة أمان تبلغ 93% مقارنة بـ71% في ChatGPT-4o.
وأكدت الشركة التزامها بمواصلة تعزيز الأمان وتقييد استخدام الذكاء الاصطناعي لتوليد الأصوات المعتمدة فقط، مما يقلل من احتمالات التزييف الصوتي.
المصدر: البوابة نيوز
كلمات دلالية: مخاطره دراسة نموذج ChatGPT 4o الذکاء الاصطناعی
إقرأ أيضاً:
الذكاء الاصطناعي يحل لغزًا فيزيائيًا استعصى على العلماء لأكثر من قرن
يتميز THOR AI بقدرته على العمل بسلاسة مع النماذج الذرية الحديثة القائمة على التعلّم الآلي، ما يجعله أداة قابلة للتوسّع في مجالات متعددة، تشمل علوم المواد، والفيزياء، والكيمياء. اعلان
نجح باحثون من جامعة نيو مكسيكو ومختبر لوس ألاموس الوطني في تطوير إطار حسابي مبتكر يُمكّن من حل مشكلة ظلت تُشكل تحديًا جوهريًّا أمام علماء الفيزياء الإحصائية لعقود من الزمن.
ويُعد هذا الإطار، المسمّى "إطار عمل الذكاء الاصطناعي للموترات لتمثيل الكائنات عالية الأبعاد" (THOR)، قفزة نوعية في فهم سلوك المواد تحت ظروف ديناميكية حرارية وميكانيكية معقّدة.
في قلب هذا الإنجاز يكمن التكامل التكويني — وهو معادلة رياضية تُستخدم لوصف التفاعلات بين الجسيمات في الأنظمة الفيزيائية. ويُعد حساب هذا التكامل بدقة أمرًا بالغ الصعوبة، خصوصًا في التطبيقات التي تتضمّن ضغوطًا شديدة أو تحولات طورية، نظرًا لتعقيداته الحسابية الهائلة.
ويقول بويان ألكساندروف، كبير علماء الذكاء الاصطناعي في مختبر لوس ألاموس الوطني والقائد الرئيسي للمشروع: "التكامل التكويني يلتقط تفاعلات الجسيمات، لكن تقييمه دقيقًا كان دائمًا أمرًا بطيئًا ومعقّدًا. إن التحديد الدقيق للسلوك الديناميكي الحراري لا يعمّق فهمنا العلمي للميكانيكا الإحصائية فحسب، بل يزوّدنا أيضًا برؤى حاسمة في مجالات مثل علم المعادن."
تجاوز "لعنة الأبعاد"لعقود، اعتمد الباحثون على طرق تقريبية مثل الديناميكيات الجزيئية ومحاكاة مونت كارلو لتقدير التكامل التكويني. ومع ذلك، فإن هذه الطرق تعاني من ما يُعرف بـ"لعنة الأبعاد"، حيث يزداد التعقيد الحسابي بشكل أُسي مع كل متغير إضافي، حتى إن أسرع الحواسيب العملاقة كانت تفشل في إنتاج نتائج دقيقة في أوقات معقولة. وغالبًا ما كانت هذه المحاكاة تستغرق أسابيع دون أن تحقق دقة كافية.
من جهته لاحظ ديميتر بيتسيف، أستاذ في قسم الهندسة الكيميائية والبيولوجية بجامعة نيو مكسيكو والشريك البحثي لألكساندروف، أن الاستراتيجيات الحسابية الجديدة التي طوّرها الفريق تتيح حلاً مباشرًا للتكامل التكويني — وهي خطوة كانت تُعتبر مستحيلة في سياق الميكانيكا الإحصائية.
ويوضح بيتسيف: "تقليديًا، كان حل التكامل التكويني بشكل مباشر مستحيلًا لأن التكامل غالبًا ما ينطوي على أبعاد تصل إلى الآلاف. التقنيات الكلاسيكية كانت تتطلب أوقاتًا حسابية تتجاوز عمر الكون، حتى باستخدام أحدث الحواسيب. لكن تقنيات شبكة الموتر وضعت معيارًا جديدًا للدقة والكفاءة، يمكن من خلاله قياس جميع الأساليب الأخرى."
ثورة في السرعة والدقةويعتمد THOR AI على تمثيل مكعب البيانات عالي الأبعاد للمتكامل كسلسلة من المكونات الأصغر عبر تقنية رياضية تُعرف بـ"الاستيفاء المتقاطع لقطار الموتر". ويُطبّق البديل المخصّص لهذه الطريقة تماثلات بلورية جوهرية، ما يسمح بحساب التكامل التكويني في ثوانٍ، بدلًا من آلاف الساعات، دون أي تنازل عن الدقة.
وأظهرت الاختبارات أن THOR AI قادر على إعادة إنتاج نتائج أفضل عمليات محاكاة مختبر لوس ألاموس — لكن بسرعة تفوقها بأكثر من 400 مرة. وقد طُبّق الإطار بنجاح على معادن مثل النحاس، وعلى غازات نبيلة تحت ضغط عالٍ مثل الأرجون في حالته البلورية، وكذلك في حساب انتقال الطور الصلب إلى الصلب للقصدير.
أداة متعددة التخصصاتويتميز THOR AI بقدرته على العمل بسلاسة مع النماذج الذرية الحديثة القائمة على التعلّم الآلي، ما يجعله أداة قابلة للتوسّع في مجالات متعددة، تشمل علوم المواد، والفيزياء، والكيمياء.
ويقول دوك ترونج، عالم في مختبر لوس ألاموس والمؤلف الرئيسي للدراسة المنشورة في مجلة "Physical Review Materials": "هذا الاختراق يستبدل عمليات المحاكاة والتقديرات التقريبية للتكامل التكويني التي يعود تاريخها إلى قرن من الزمان بحسابات قائمة على المبادئ الأولى. ويُفتح THOR AI الباب أمام اكتشافات أسرع وفهم أعمق للمواد."
انتقل إلى اختصارات الوصول شارك هذا المقال محادثة
عاجل |تل أبيب تقرر فتح معبر رفح من الجانب الفلسطيني كما كان مقررا والسماح بنقل المساعدات لغزة