تزوير بالصوت والصورة ـ الذكاء الاصطناعي سلاح خطير في يد القراصنة
تاريخ النشر: 18th, September 2023 GMT
يخشى مراقبون من إمكان أن تسهّل روبوتات الدردشة وبرامج التزوير القائمة علىالذكاء الاصطناعي عمل الجهات الضالعة في الجرائم الإلكترونية وعمليات الاحتيال عبر الإنترنت، بعدما أصبحت متاحة منذ حوالى سنة للاستخدام العام، من دون أن تُحدث تغييرات جذرية على صعيد هجمات المعلوماتية التقليدية.
أدوات أفضل لـ"التصيد الاحتيالي"
تتمثل عملية "التصيد الاحتيالي" ("فيشينغ") بالاتصال بشخص مستهدف وجعله يُدخل البيانات الخاصة به على موقع مقرصن يشبه المواقع الأصلية.
ويشرح جيروم بيلوا، وهو خبير في أمن المعلوماتية في شركة الاستشارات "وايفستون" ومؤلف كتاب عن الهجمات السيبرانية لوكالة فرانس برس، "الذكاء الاصطناعي يسهل ويسرع وتيرة الهجمات" من خلال إرسال رسائل إلكترونية مقنعة وخالية من الأخطاء الإملائية.
ويتبادل القراصنة بذلك خططاً تمكّنهم من توليد رسائل احتيالية محددة الهدف بشكل تلقائي، بواسطة منتديات عبر الإنترنت أو رسائل خاصة.
وللتغلب على القيود التي وضعها مقدمو الحلول بشأن الذكاء الاصطناعي، تسوّق مجموعات متخصصة منذ هذا الصيف نماذج لغوية مدربة على إنتاج محتويات خبيثة، على غرار تطبيق "فرود جي بي تي". لكن لا يزال يتعين إثبات فعاليتها.
ويحذر بيلوا "لا نزال في البداية فقط".
خطر تسريب البيانات
يُعتبر الذكاء الاصطناعي التوليدي واحداً من التهديدات الخمسة الرئيسية التي تهابها الشركات، وفق دراسة حديثة أصدرتها شركة "غارتنر" الأمريكية.
وتخشى الشركات خصوصاً في هذا المجال تسرب البيانات الحساسة التي يتناقلها موظفوها، الأمر الذي دفع شركات كبرى، ومنها "آبل" و"أمازون" و"سامسونغ" إلى منع موظفيها من استخدام "تشات جي بي تي".
وتوضح مديرة الأبحاث في "غارتنر" ران شو أن "كل معلومة يتم إدخالها على أداةالذكاء الاصطناعي التوليدي يمكن أن تدخل في مساره التعلّمي، وهذا ما قد يجعل معلومات حساسة أو سرية تظهر في نتائج عمليات بحث مستخدمين آخرين".
وأطلقت شركة "أوبن ايه آي"، المطورة لبرنامج "تشات جي بي تي"، في آب/أغسطس الماضي النسخة المحترفة "تشات جي بي تي انتربريز" التي لا تستعمل الدردشات من أجل التعلّم بغية تطمين الشركات التي تخشى تسريب معلوماتها.
من جهتها، توصي شركة "غوغل" موظفيها بعدم إدخال معلومات سرية أو حساسة في برنامج الدردشة الآلي الخاص بها، "بارد".
تزوير بالصوت والصورة
يتمثل التهديد الرئيسي الجديد للذكاء الاصطناعي بسهولة نسخ الوجوه والأصوات وتوليد ما يطابقها تماماً. فمن خلال تسجيل لا تتجاوز مدته بضع ثوان، تسمح بعض الأدواتعبر الانترنت بتوليد نسخة مطابقة تماماً قد يقع ضحيتها الزملاء أو الأقارب.
ويعتبر مؤسس شركة "أوبفور انتلجنس" جيروم سايز أن هذه الأدوات قد تُستخدم بسرعة من جانب "مجموعة كاملة من الجهات الضالعة في عمليات احتيال صغيرة، لها وجود فعال في فرنسا وغالبًا ما تكون وراء حملات خبيثة تستعمل الرسائل النصية" بهدف الحصول على أرقام البطاقات المصرفية.
ويضيف لوكالة فرانس برس "هؤلاء المخالفون الصغار، الذين يكونون بالإجمال من فئة الشباب، سيتمكنون وبسهولة من تقليد الأصوات".
وفي حزيران/يونيو، وقعت أم أمريكية ضحية احتيال اثر اتصال رجل بها للمطالبة بفدية لقاء تسليمها ابنتها الذي زعم أنها مخطوفة، وقد عمد الرجل إلى إسماعها ما ادعى أنه صراخ ابنتها الضحية. وانتهى الحادث من دون وقوع أضرار، بعد أن اشتبهت الشرطة في أن الحادثة تشكل عملية احتيال تعتمد على الذكاء الاصطناعي.
ويشرح بيلوا أنه، بالنسبة للشركات التي باتت على دراية بأساليب احتيالية مستخدمة على نطاق واسع تقوم على انتحال محتالين صفة الرئيس التنفيذي للشركة للحصول على تحويلات مالية، فإن "استخدام مقتطف صوتي أو فيديو مزيف"، من قبل المقرصن "يمكن أن يقلب مسار الأحداث لصالح" هذا الأخير.
قراصنة مبتدئون
ويعتقد سايز أنّ "أياً من الهجمات التي نجحت في العام الماضي لا يدفع إلى الاعتقاد بأنها نتيجة استخدام الذكاء الاصطناعي التوليدي".
ورغم أن روبوتات الدردشة قادرة على تحديد بعض العيوب وتوليد أجزاء رموز معلوماتية خبيثة، إلا أنها عاجزة عن تنفيذها مباشرة.
في المقابل، يرى سايز أن الذكاء الاصطناعي "سيسمح لأشخاص محدودي الموهبة بتحسين مهاراتهم"، مستبعداً في المقابل أن يتمكن "الذين يبدأون من الصفر من تطوير برامج مشفرة باستخدام تشات جي بي تي".
المصدر: أخبارنا
إقرأ أيضاً:
نظرية أوركسترا الحمل المعرفي: دور الذكاء الاصطناعي في تعزيز التعلم
تشهد العملية التعليمية في الآونة الأخيرة تطورات هائلة وسريعة وغير مسبوقة، وهو ما أَذِن بظهور ما يعرف بـ"أوركسترا الحمل المعرفي"، وهي طريقة مُثلى تستخدم الذكاء الاصطناعي وتستفيد منه في تطوير عملية التعلم. وهذه الطريقة مُستقاة من نظرية الحمل المعرفي للباحث سويلر عام 1988، وقد أثبتت فاعليتها في التكيف مع احتياجات الطلاب، وهو ما لم يكن مُتصوَّرا في بيئات التعلم التقليدية السابقة.
تنتج نظرية الحمل المعرفي من تكامل منهجي دقيق ومتطور بين علم الأعصاب وعلم النفس المعرفي والتعلم الآلي، وتنقسم الأحمال العقلية إلى ثلاثة أنواع:
- الحمل الجوهري: وهو الجهد الذي يبذله المتعلم لفهم مادة صعبة بطبيعتها.
- الحمل الخارجي: وهو الجهد الزائد الناتج عن أسلوب شرح معقد أو تصميم تعليمي غير مناسب.
- الحمل الملائم: وهو الجهد المفيد الذي يبذله المتعلم ليبني عقله المخططات الذهنية الواضحة وينظم المعلومات.
وتتبع هذه النظرية نهجا ديناميكيا يتحكم جيدا في تلك الأحمال ويراقبها ويحسِّنها باستمرار، وذلك من خلال أنظمة الذكاء الاصطناعي المتقدمة.
لقد كان للذكاء الاصطناعي دور هائل في تمكين التطبيقات الحديثة لنظرية الحمل المعرفي من استخدام مجموعة رائعة من تقنيات المراقبة البيومترية لتقييم الحالة المعرفية للطالب في الوقت الفعلي، على سبيل المثال:
- أنظمة تتبع حركة العين: إذا اتسعت حدقة العين أكثر من 5.5 ملم، فهذا دليل على إرهاق ذهني وإجهاد معرفي مفرط، وعليه؛ يستجيب الذكاء الاصطناعي مباشرة ويتدخل تلقائيا.
- خوارزميات التعرف إلى الوجه: إذا قطب الطالب جبينه، مما يشير إلى ارتباكه، يتدخل النظام ويقدم شروحا أيسر وأوضح.
- تحليل سرعة الكتابة وأنماط ضغطات المفاتيح: إذا أبدى الطالب ترددا أو تباطؤا، تُقدَّم تلميحات في الوقت المناسب أو يُعدَّل المسار التعليمي بما يناسبه.
ويكون عمل هذه الأنظمة باعتمادها على تقنيات التعلم الآلي، على سبيل المثال:
- تواصل خوارزميات التعلم المعزز عملها باستمرار لتصل بالطالب إلى أن يكون منتبها وعلى درجة عالية من التركيز، دون أن يشعر بالإرهاق.
- تولّد شبكات المحوّلات (Transformer networks) شروحات مصمَّمة خصوصا لسد فجوات المعرفة عند كل طالب. وقد تم ضبطها بدقة بناء على سجلات التعلم الفردية.
ولم يكن هذا التطور التكنولوجي بعيدا عن الواقع أو حبرا على ورق، وإنما أثبتت فعليا دراسات من جامعة سيدني عام 2023 أن هذه الأنظمة تزيد من سرعة التعلم بنسبة 31 في المئة مقارنة بالأنظمة التقليدية، كما أبلغت منصات التعلم عبر الإنترنت عام 2024 عن انخفاض معدل انسحاب الطلاب من الدورات بنسبة 40 في المئة.
وأمامنا تطبيق واقعي في فنلندا، يُظهر مدى فعالية نظرية تنظيم الحمل المعرفي؛ حيث يعمل برنامج رياضيات تكيفي على أجهزة لوحية مزودة بتغذية لمسية، مهمته تعديل صعوبة المسائل تلقائيا حسب أداء الطالب، وهو ما كان له بالغ الأثر في تقليص فجوات التحصيل بنسبة 37 في المئة خلال عامين فقط.
وفي الجامعات، استخدمت منصة "Neurostudy" عصابات رأس لقياس نشاط الدماغ، فإذا شعر الطالب بالإرهاق الذهني، وأظهر النظام إشارة على حمل معرفي زائد، تتوقف المحاضرة تلقائيا. وقد أدّى ذلك إلى تضاعف عدد الطلاب الذين يُكملون محاضراتهم، وبلغ رضاهم عن النظام نسبة 92 في المئة.
وعلى الرغم من هذه النجاحات المتتالية، تظل هناك تحديات تواجه تطبيقات "CLO" جارٍ العمل على معالجتها مثل:
- فيما يتعلق بالخصوصية: بمعالجة البيانات على الجهاز نفسه دون تخزينها خارجيا.
- فيما يتعلق بالتكلفة: بالاعتماد على الهواتف الذكية واستخدام تطبيقات منخفضة التكلفة مثل "EyeLearn" التي تعمل بكاميرا الهاتف الأمامية، وتحقق دقة عالية تقدر بـ85 في المئة من دقة أداء الأنظمة الأخرى الأغلى.
- فيما يتعلق بالتحيُّز الثقافي: تُدرَّب الأنظمة على بيانات تشمل أكثر من 50 جنسية وعِرقا لتجنُّب الانحياز في تحليل تعابير الوجه.
يَعِد "CLO" بمستقبل مليء بتطبيقات أكثر تطورا. فبحلول عام 2025، يُتوقَّع أن توفر عصابات الرأس "EEG" غير الغازية دقَّة غير مسبوقة في قياس الحمل المعرفي.
- في غضون العقد المقبل، قد تُمكَّن واجهات الدماغ والحاسوب من المراقبة العصبية المباشرة.
- يُصبح الذكاء الاصطناعي أكثر وعيا بالعاطفة، وقادرا على التمييز بين الإرهاق الضار والتحدي المفيد.
تمثل "CLO" ثورة تعليمية حقيقية بسبب نهجها الاستباقي لتحسين التعلم على العكس من الأنظمة التقليدية التي تنتظر الطالب أن يُخطئ حتى تتدخل. تتميز "أوركسترا الحمل المعرفي" بأنها تتنبأ بالمشكلة وتمنعها قبل أن تحدث، فضلا عن قدرتها اللا محدودة على التكيف؛ لذا لمست المدارس ما لها من فوائد كبيرة، على رأسها:
- تقليل الحاجة إلى الدروس الخصوصية.
- تحسين أداء الطلاب.
وهو ما أثمر عوائد على الاستثمار من 2 إلى 3 أضعاف ما كانت عليه من قبل.
ومع استمرار التعليم في تحوله الرقمي، تسعى أوركسترا الحمل المعرفي إلى إحداث نقلة نوعية في مفاهيم التعلم الشخصي والتعلم الفعَّال، حتى ترقى به إلى أعلى مستويات التعلم.
المنتشري: الهلال لا يحتاج إلى أوسيمين وقادر على الأفضل.. فيديو