كاسبرسكي تكشف عن إرشادات التطوير الآمن للذكاء الاصطناعي في منتدى حوكمة الإنترنت
تاريخ النشر: 19th, December 2024 GMT
خلال مشاركتها في منتدى حوكمة الإنترنت السنوي لعام 2024، والذي عُقد في العاصمة السعودية الرياض بين يومي 15 و19 ديسمبر، قدمت كاسبرسكي إرشاداتها للتطوير والنشر الآمن لأنظمة الذكاء الاصطناعي. وتهدف الوثيقة لمساعدة المنظمات على تجنب المخاطر المرتبطة باعتماد تقنيات الذكاء الاصطناعي من خلال توفير متطلبات الأمن السيبراني التي يجب مراعاتها عند تنفيذ هذه الأنظمة.
تم عرض «إرشادات التطوير والنشر الآمن لأنظمة الذكاء الاصطناعي» يوم 18 ديسمبر ضمن ورشة عمل على هامش منتدى حوكمة الإنترنت حملت عنوان «الأمن السيبراني في الذكاء الاصطناعي: الموازنة بين الابتكار والمخاطر». حيث نظم ممثلو كاسبرسكي لجنة من الخبراء لاستكشاف كيفية التنسيق بين الابتكار في مجال الذكاء الاصطناعي والإدارة الفعالة للمخاطر والأمن السيبراني. وجرى العمل على الوثيقة بالتعاون مع خبراء أكاديميين رواد لمعالجة التعقيد المتزايد لتحديات الأمن السيبراني المرتبطة بالأنظمة المدعومة بالذكاء الاصطناعي.
تُعد الوثيقة مورداً أساسياً للمطورين والمسؤولين وفرق عمليات تطوير الذكاء الاصطناعي، كما تقدم نصائح مفصلة وعملية لمعالجة الثغرات الفنية والمخاطر التشغيلية. وتظهر الأهمية الأكبر لهذه الإرشادات بالنسبة للمؤسسات التي تعتمد على نماذج الذكاء الاصطناعي التابعة لطرف ثالث والأنظمة القائمة على السحابة، فقد تؤدي الثغرات الأمنية لاختراقات كبيرة للبيانات وأضرار بالسمعة.
من خلال تضمين مبادئ الأمان التصميمي، تساعد الإرشادات المنظمات على موازنة نشر الذكاء الاصطناعي مع معايير مثل الممارسات البيئية والاجتماعية وحوكمة الشركات ومتطلبات الامتثال الدولية. تتناول الوثيقة الجوانب الرئيسية لتطوير، ونشر، وتشغيل أنظمة الذكاء الاصطناعي، بما يشمل التصميم وأفضل الممارسات الأمنية، والتكامل، دون التركيز على تطوير النماذج التأسيسية.
تؤكد إرشادات كاسبرسكي على المبادئ التالية لتعزيز أمن أنظمة الذكاء الاصطناعي:
1. التوعية والتدريب على الأمن السيبراني
تسلط كاسبرسكي الضوء على أهمية دعم القيادة والتدريب المخصص للموظفين. حيث يجب أن يكون الموظفون على دراية بأساليب استغلال الذكاء الاصطناعي المعتمدة من مصادر التهديد. وتضمن التحديثات المنتظمة لبرامج التدريب التوافق مع التهديدات المتطورة.
2. نمذجة التهديدات وتقييم المخاطر
تؤكد الإرشادات على ضرورة تحديد المخاطر والتخفيف منها بشكل استباقي من خلال وسائل نمذجة التهديدات التي تساعد على تحديد الثغرات في وقت مبكر من تطوير الذكاء الاصطناعي. وتوصي كاسبرسكي باستخدام منهجيات موثوقة لتقييم المخاطر (مثل نموذجي STRIDE وOWASP) لتقييم التهديدات الخاصة بالذكاء الاصطناعي، بما يشمل إساءة استخدام النماذج، وتسميم البيانات، ونقاط ضعف الأنظمة.
3. أمن البُنى التحتية (السحابة)
تتطلب أنظمة الذكاء الاصطناعي، والتي غالباً ما يتم نشرها في بيئات سحابية، حماية قويةً مثل التشفير، وتقسيم الشبكة، والمصادقة الثنائية. وتؤكد كاسبرسكي على مبادئ الثقة الصفرية، وقنوات الاتصال الآمنة، وإصلاحات البنية التحتية بشكل منتظم للحماية من الاختراقات.
4. سلسلة الإمداد وأمن البيانات
تسلط كاسبرسكي الضوء على المخاطر التي تشكلها مكونات ونماذج الذكاء الاصطناعي التابعة لجهات خارجية، بما يشمل تسرب البيانات وإساءة استخدام المعلومات التي تم الحصول عليها لإعادة بيعها. وفي هذا الصدد، يجب تطبيق سياسات الخصوصية والممارسات الأمنية الخاصة بالخدمات التابعة لجهات خارجية، مثل استخدام الحساسات والتدقيقات الأمنية، بشكل صارم.
5. الاختبار والتحقق
يضمن التحقق المستمر لنماذج الذكاء الاصطناعي الموثوقية. وتعمل كاسبرسكي على تعزيز مراقبة الأداء والإبلاغ عن الثغرات الأمنية للكشف عن المشكلات الناجمة عن انحراف بيانات الإدخال أو الهجمات المعادية. ويُعد التقسيم الملائم لمجموعات البيانات وتقييم منطق اتخاذ القرار الخاص بالنماذج أمرين ضروريين للتخفيف من المخاطر.
6. الحماية من الهجمات الخاصة بتعلم الآلة
تؤكد الإرشادات على ضرورة حماية مكونات الذكاء الاصطناعي من الهجمات الخاصة بتعلم الآلة، بما يشمل المدخلات المعادية، وتسميم البيانات، وهجمات الحقن الفوري. وتعمل تدابير مثل دمج الأمثلة المعادية في مجموعة بيانات التدريب، وأنظمة اكتشاف الشذوذ، وأساليب التقطير على تحسين قدرة النماذج على مواجهة التلاعب.
7. التحديثات الأمنية والصيانة المنتظمة
تؤكد كاسبرسكي على أهمية الإصلاح المتكرر لمكتبات وأطر الذكاء الاصطناعي لمعالجة الثغرات الأمنية الناشئة. وقد تساعد المشاركة في برامج مكافآت الأخطاء وإدارة دورة حياة نماذج الذكاء الاصطناعي القائمة على السحابة على تعزيز مرونة النظام.
8. الالتزام بالمعايير الدولية
يساعد كل من الالتزام باللوائح العالمية (مثل اللائحة العامة لحماية البيانات، وقانون الذكاء الاصطناعي للاتحاد الأوروبي)، وأفضل الممارسات، والتحقق من امتثال أنظمة الذكاء الاصطناعي للقانون على التوافق مع المتطلبات الأخلاقية ومتطلبات خصوصية البيانات، بالإضافة إلى تعزيز الثقة والشفافية.
وتؤكد المبادئ التوجيهية على أهمية تضمين أنظمة الذكاء الاصطناعي بشكل مسؤول لتجنب مخاطر الأمن السيبراني الكبيرة، مما يجعلها مورداً مهماً للغاية للشركات والحكومات على حد سواء.
علقت يوليا شليتشكوفا، نائب رئيس الشؤون العامة لدى كاسبرسكي: «مع تزايد اعتماد الذكاء الاصطناعي، لم يعد ضمان أمنه أمراً اختيارياً، بل ضرورياً. وفي منتدى حوكمة الإنترنت لعام 2024، نساهم في حوار متعدد الأطراف لتحديد المعايير اللازمة لحماية الابتكار والمساعدة في مكافحة التهديدات السيبرانية الناشئة.»
مع استمرار دمج الذكاء الاصطناعي في القطاعات الحيوية، مثل الرعاية الصحية، والمالية، والقطاعات الحكومية، توفر «إرشادات التطوير والنشر الآمن لأنظمة الذكاء الاصطناعي» من كاسبرسكي أسس الاستخدام الآمن والأخلاقي للذكاء الاصطناعي.
المصدر: بوابة الوفد
كلمات دلالية: أنظمة الذکاء الاصطناعی منتدى حوکمة الإنترنت الأمن السیبرانی کاسبرسکی على بما یشمل
إقرأ أيضاً:
الجدل الاقتصادي في شأن الذكاء الاصطناعي 1/5
عبيدلي العبيدلي
خبير إعلامي
يُعدّ الذكاء الاصطناعي أحد أبرز الظواهر التقنية المعاصرة التي يعتقد الكثيرون أنها ستُعيد رسم ملامح الاقتصاد العالمي في القرن الحادي والعشرين. فمنذ بداية الألفية، تحوّل الذكاء الاصطناعي من مجرد كونه فرعًا نظريًا في علوم الحوسبة، إلى محرك فعلي لإعادة هيكلة الاقتصاد الوطني، وربما العالمي، بما في ذلك تشكيل سلاسل الإنتاج، وأسواق العمل، وأنظمة اتخاذ القرار. ومع كل طفرة في هذا المجال، تتسارع التحولات الاقتصادية، وتتشكل استقطابات فكرية جديدة تتوزع بين مؤيدين يرون فيه أداة فعالة لتحفيز النمو، ومعارضين له لا يكفون عن التحذير من مغبة تداعيات انعكاساته الاقتصادية البنيوية.
يمتاز الجدل حول الذكاء الاصطناعي بطابعه الديناميكي، إذ لا يتصل فقط بفعالية التقنية، بل يتقاطع مع قضايا توزيع الثروة، ومستقبل العمل، والمساواة الرقمية، والسيادة الاقتصادية. وقد بات من الملحّ، بشكل قاطع، التفكير فيه باعتباره قضية سياسية–اقتصادية–أخلاقية بامتياز، تتطلب تجاوز التقييمات التقنية البحتة نحو تحليلات عميقة للبنى الاقتصادية والاجتماعية.
تهدف هذه المقالة إلى تفكيك هذا الجدل من خلال عرض شامل لحجج المؤيدين والمعارضين، وتحليل القضايا المحورية المرتبطة بالذكاء الاصطناعي في الاقتصاد، مع تقديم حالات واقعية تجسد الاتجاهين، وأخيرًا استشراف مآلات هذه التحولات على المدى القصير والمتوسط والبعيد.
مواقف المؤيدين: الذكاء الاصطناعي رافعة للتحول الاقتصادي
يرى المؤيدون أن الذكاء الاصطناعي يمثل قفزة نوعية في تاريخ التطور الإنتاجي للبشرية، مكافئة لاختراع الكهرباء أو الإنترنت. وتتركز مبرراتهم في خمسة محاور أساسية هي:
رفع الإنتاجية وتقليل التكاليفتُظهر التجارب أن الذكاء الاصطناعي قادر، وبكفاءة غير مسبوقة، على مضاعفة إنتاجية القوى العاملة البشرية من خلال الأتمتة الذكية وتحليل البيانات والتعلّم الآلي. فالشركات التي تبنت أدوات تحليل البيانات والتنبؤ باستخدام AI – كـ Amazon وAlibaba، نجحت في خفض تكاليف التشغيل، وزيادة كفاءة سلسلة الإمداد، وتسريع دورة الإنتاج. وتُشير دراسة صدرت في العام 2022 عن مؤسسة PricewaterhouseCoopers (PWC) إلى أن الذكاء الاصطناعي قد يضيف 15.7 تريليون دولار إلى الاقتصاد العالمي بحلول 2030.
خلق نماذج أعمال جديدةلا يقتصر أثر الذكاء الاصطناعي على تحسين العمليات التقليدية، بل يفتح الباب أمام نماذج أعمال جديدة بالكامل. فالخدمات المالية مثلًا شهدت ظهور شركات FinTech تستخدم الذكاء الاصطناعي في تقييم الجدارة الائتمانية والتسعير التفاعلي. وفي الطب، بات التشخيص القائم على AI يتفوق على بعض القدرات البشرية. هذا يعني أن الذكاء الاصطناعي لا يُقصي العمل البشري، بل يُعيد تعريفه.
تمكين الدول النامية عبر القفزات التقنيةمن أبرز وعود الذكاء الاصطناعي قدرته على مساعدة الدول النامية في تجاوز مراحل التصنيع التقليدي. ففي الهند مثلًا، ساعدت أدوات الذكاء الاصطناعي المزارعين في التنبؤ بالمواسم الزراعية وتحسين الإنتاج. أما في كينيا، فتم تطبيق الذكاء الاصطناعي في إدارة شبكات الكهرباء المحدودة لتعظيم كفاءتها. هذا الاستخدام "التنموي" يخلق أملًا بإعادة التوازن العالمي عبر التكنولوجيا.
تعزيز الحوكمة واتخاذ القرار الاقتصاديتُستخدم خوارزميات الذكاء الاصطناعي اليوم في تحليل اتجاهات الاقتصاد الكلي، وتقييم المخاطر الائتمانية، وضبط التهرب الضريبي. فالهند طوّرت نظامًا رقميًا يعتمد على AI لرصد التجارة غير الرسمية والتهرب من الضرائب، مما ساعد في رفع الإيرادات العامة بنسبة 14%. كما تلجأ بعض الحكومات إلى أدوات الذكاء الاصطناعي لمحاكاة نتائج السياسات الاقتصادية قبل تطبيقها.
تسريع البحث العلمي والابتكاربفضل قدرته على معالجة كميات هائلة من البيانات، ساهم الذكاء الاصطناعي في تسريع وتيرة البحث العلمي، خاصة في مجالات الأدوية، والطاقة، والمناخ. كما أدى إلى تخفيض تكاليف الابتكار، مما يُمكّن الشركات الناشئة من المنافسة في مجالات كانت سابقًا حكرًا على الشركات العملاقة.
مواقف المعارضين: الذكاء الاصطناعي كتهديد اقتصادي بنيوي
رغم الحماس الذي يُبديه أنصار الذكاء الاصطناعي، فإن معارضيه يُثيرون مخاوف جوهرية تتجاوز المسائل التقنية إلى بنية الاقتصاد العالمي نفسه. يرى هؤلاء أن الذكاء الاصطناعي، في صيغته الحالية، وجوهر أدائه التقني، لا يخدم التنمية الشاملة، بل يُكرّس الاحتكار، ويقضي على الوظائف، ويُعمّق الفجوة الطبقية، ويُضعف قدرة المجتمعات على السيطرة على مستقبلها الاقتصادي ويمكن تلخيص دعوات المنتقدين في النقاط التالية.
تهديد سوق العمل وتفكيك الطبقة الوسطىيشير المنتقدون إلى أن الذكاء الاصطناعي سيؤدي إلى فقدان الملايين من الوظائف، خاصة في المجالات المتوسطة المهارة التي شكلت تاريخيًا عماد الطبقة الوسطى. فعلى سبيل المثال، تعمل تقنيات الترجمة الآلية على تقليص الحاجة للمترجمين، وتقوم خوارزميات المحاسبة بتقليل الطلب على المحاسبين التقليديين، بينما بدأت السيارات ذاتية القيادة تُهدد وظائف سائقي الأجرة والنقل.
وفقًا لتقرير المنتدى الاقتصادي العالمي (2023)، من المتوقع أن تستبدل الأتمتة نحو 85 مليون وظيفة بحلول العام 2025، رغم خلقها وظائف جديدة. إلا أن هذه الوظائف تتطلب مهارات عالية في البرمجة، وتحليل البيانات، والرياضيات، وهي مهارات لا تمتلكها الغالبية العظمى من العاملين حاليًا. هذا الخلل قد يؤدي إلى بطالة هيكلية مزمنة وتآكل الاستقرار الاجتماعي.
تعميق الاحتكار وتركيز الثروةيرى كثيرون، ممن يقفون في وجه توسيع نطاق استخدامات الذكاء الاصطناعي، أنه بوعي أو بدون وعي، يُعزز من هيمنة الشركات الكبرى، خاصة تلك التي تمتلك البيانات الضخمة والبنى التحتية السحابية. فشركات مثل Google وMeta وAmazon تملك من المعلومات والقدرات الحسابية ما يُمكّنها من احتكار الابتكار وتوجيه السوق وفق مصالحها. وهذا الوضع يخلق ما يسميه بعض الاقتصاديين "الرأسمالية الخوارزمية"، حيث يتحول السوق إلى مساحة مغلقة تديرها خوارزميات بلا شفافية.
هذا التركّز لا يُضعف فقط المنافسة، بل يخلق فجوة عميقة بين الشركات العملاقة وبقية الفاعلين الاقتصاديين، ويمنع الشركات الناشئة في الدول النامية من الدخول الجدي إلى السوق.
إخفاقات أخلاقية وتمييز منهجيالعديد من حالات سوء استخدام الذكاء الاصطناعي كشفت عن ميل هذه التكنولوجيا إلى إنتاج نتائج متحيزة وغير عادلة. تعود هذه المشكلة إلى أن نماذج الذكاء الاصطناعي تُدرَّب على بيانات تاريخية تعكس أوجه التمييز الطبقي أو العرقي أو الجندري في المجتمع. على سبيل المثال، في عام 2018 اضطرت شركة Amazon إلى سحب نظام توظيف آلي تبين أنه يقلل تلقائيًا من تقييم السير الذاتية للنساء.
تنعكس هذه التحيزات في القرارات الاقتصادية: من يُمنح قرضًا؟ من يتم قبوله في الوظيفة؟ من يُصنف كزبون مميز؟ الذكاء الاصطناعي هنا لا يُعيد إنتاج التمييز فقط، بل يُخفيه تحت قناع "الحياد الرقمي".
تقويض السيادة الاقتصادية الوطنيةيرى النقاد أن الذكاء الاصطناعي، وخاصة في مجال صنع القرار الاقتصادي، يُضعف قدرة الدول على التحكم في سياساتها. فمع ازدياد الاعتماد على خوارزميات خارجية في القطاعات الحيوية، تفقد الحكومات، وعلى وجه الخصوص حكومات الدول الصغيرة أو النامية، السيطرة على أدوات الرقابة والتنظيم. في حالات عديدة، باتت قرارات تتعلق بالإقراض أو التوظيف أو الاستثمار تُتخذ بناء على أنظمة خوارزمية مملوكة لشركات خاصة لا تخضع للرقابة العامة.
الأمر لا يقتصر على الدول النامية، بل يمتد إلى الاقتصادات المتقدمة، حيث بدأت البنوك والشركات الكبرى تعتمد على نماذج ذكاء اصطناعي من تطوير شركات خارجية، ما يخلق تهديدًا حقيقيًا لـ "السيادة الاقتصادية الرقمية".
نشوء أزمات اقتصادية خوارزميةأحد المخاوف الكبرى يتعلق بالقدرة المحدودة للبشر على توقع وتفسير سلوك أنظمة الذكاء الاصطناعي المعقدة. فقد نشهد في المستقبل أزمات مالية أو تجارية أو استهلاكية ناتجة عن قرارات آلية غير مفهومة أو تفاعل تلقائي بين أنظمة متنافسة. مثال على ذلك ما حدث في "الانهيار الخاطف" (Flash Crash) في بورصة نيويورك عام 2010، حيث أدت معاملات آلية إلى انهيار الأسواق خلال دقائق دون تدخل بشري.
لذا يحذر المعارضون من أخطار تنامي استخدام خوارزميات الذكاء الاصطناعي أنه إذا استمر الاعتماد المفرط على أنظمة لا يمكن تفسيرها أو مساءلتها، فقد نصل إلى نقطة تفقد فيها المؤسسات الاقتصادية سيطرتها على أدواتها نفسها.
رابط مختصر
مباريات سيراميكا كليوباترا فى الدور الأول 2025-2026