كشفت شركة كاسبرسكي عن ورقة بيضاء توضح قائمة مبادئها الأخلاقية التي ستلتزم بها خلال تطويرها واستخدامها الأنظمة العاملة بالذكاء الاصطناعي أو تعلم الآلة. فنظراً لدور خوارزميات الذكاء الاصطناعي المتنامي في مجال الأمن السيبراني، توضح هذه المبادئ كيفية ضمان كاسبرسكي لموثوقية تقنياتها القائمة على الذكاء الاصطناعي، وترشد اللاعبين الآخرين في الصناعة نحو تقليص المخاطر المرتبطة باستخدامهم خوارزميات الذكاء الاصطناعي وتعلم الآلة.

حيث تناولت كاسبرسكي هذا الموضوع كجزء من منتدى الأمم المتحدة لحوكمة الإنترنت المنعقد حالياً في اليابان ويجمع خبراء عالميين بارزين في مجال حوكمة الإنترنت.
لا يخفى على أحد أن شركة كاسبرسكي تستخدم خوارزميات تعلم الآلة (أحد فروع الذكاء الاصطناعي) في حلولها منذ ما يقرب من 20 عاماً. حيث مكّنت قوة الذكاء الاصطناعي المدعومة بالخبرات البشرية حلول كاسبرسكي من اكتشاف مجموعة متنوعة من التهديدات الجديدة والتصدي لها كل يوم. إذ يلعب تعلم الآلة دوراً مهماً في أتمتة اكتشاف التهديدات، وتحديد مواقع الخلل، وزيادة دقة التعرف على البرمجيات الخبيثة. لذلك، صاغت كاسبرسكي مبادئ أخلاقية لتطوير واستخدام الذكاء الاصطناعي وتعلم الآلة، وشاركتها بشكل مفتوح مع الصناعة لتحفيز الابتكار وتعزيز الحوار المتعدد لتأكيد استخدام الذكاء الاصطناعي لتحسين العالم للجميع. 
طرحت كاسبرسكي ستة مبادئ يجب أن تؤخذ في عين الاعتبار عند تطوير واستخدام الذكاء الاصطناعي وتعلم الآلة، وهي:
الشفافية؛
الأمان؛
التحكم البشري؛
الخصوصية؛
الالتزام بأغراض الأمن السيبراني؛
الانفتاح على الحوار.
يرمز مبدأ الشفافية إلى إيمان كاسبرسكي الراسخ بواجب كل شركة بإبلاغ عملائها عن استخدامها تقنيات الذكاء الاصطناعي وتعلم الآلة في منتجاتها وخدماتها. وتلتزم كاسبرسكي بهذا المبدأ من خلال تطوير أنظمة ذكاء اصطناعي وتعلم آلة مفهومة إلى أقصى حد ممكن، بالإضافة إلى توفير معلومات إلى أصحاب المصالح تشرح طريقة تنفيذ واستخدام حلول كاسبرسكي لتقنيات الذكاء الاصطناعي وتعلم الآلة. 
أمّا مبدأ السلامة، فتلتزم كاسبرسكي به عن طريق ممارسة مجموعة واسعة من التدابير الصارمة لضمان جودة أنظمة الذكاء الاصطناعي وتعلم الآلة، ويتضمن ذلك مراجعات أمنية في أنظمة الذكاء الاصطناعي وتعلم الآلة، وخطوات تقليل الاعتماد على مجموعات البيانات الخارجية في تدريب الحلول العاملة بالذكاء الاصطناعي، وتفضيل تقنيات تعلم الآلة السحابية التي تتمتع بالحماية اللازمة بدلاً من تلك المثبتة على أجهزة العملاء.  
يشير مبدأ التحكم البشري إلى أهمية معايرة أنظمة الذكاء الاصطناعي وتعلم الآلة عندما يتعلق الأمر بتحليل التهديدات المعقدة، ولا سيما التهديدات المتقدمة المستعصية (APT). ولتوفير حماية فعالة ضد التهديدات المتطورة باستمرار، تلتزم كاسبرسكي بالحفاظ على التحكم البشري كعنصر أساسي في جميع أنظمة الذكاء الاصطناعي وتعلم الآلة لديها.
المبدأ الأخلاقي الأساسي التالي هو ضمان خصوصية الأفراد عند استخدام أنظمة الذكاء الاصطناعي وتعلم الآلة. ونظراً لاعتماد تدريب مثل هذه الأنظمة بشكل كبير على البيانات الضخمة، يجب على الشركات التي تستخدم الذكاء الاصطناعي وتعلم الآلة أن تأخذ خصوصية الأفراد بالحسبان في كل خطوة. من جهتها، تحترم كاسبرسكي خصوصية الأفراد وتطبق عدداً من التدابير الفنية والتنظيمية لحماية كل من بيانات الأفراد وأنظمتها، كما تضمن ممارسة مستخدميها لحقهم في الخصوصية بشكل حقيقي.
يمثل المبدأ الأخلاقي الخامس التزام كاسبرسكي بحصر استخدام أنظمة الذكاء الاصطناعي وتعلم الآلة في الأغراض الدفاعية فقط. حيث تواصل الشركة جهودها لبناء عالم أكثر أماناً وتثبت التزامها بحماية مستخدميها وبياناتهم عبر التركيز حصرياً على التقنيات الدفاعية. 
أخيراً، يشير المبدأ الأخير إلى تقبُّل كاسبرسكي للحوار مع جميع أصحاب المصلحة بغرض مشاركة أفضل ممارسات الاستخدام الأخلاقي للذكاء الاصطناعي. وفي هذا الصدد، تؤكد كاسبرسكي استعدادها لإجراء مناقشات مع جميع الأطراف المهتمة، حيث تؤمن شركة كاسبرسكي بأن التعاون المستمر بين جميع أصحاب المصالح هو الطريق الوحيد لتجاوز العقبات وتحفيز الابتكار وفتح آفاق جديدة.

قال الرئيس التقني لشركة كاسبرسكي «أنطون إيفانوف»: «الذكاء الاصطناعي قادر على إفادة صناعة الأمن السيبراني من عدة نواحٍ، مما يعزز المرونة السيبرانية لمجتمعنا. ولكن، مثل أي تقنية أخرى لا تزال في مرحلة مبكرة من تطورها، لا يخلو الذكاء الاصطناعي من المخاطر. وللتعامل مع المخاوف المحيطة بالذكاء الاصطناعي، أصدرت كاسبرسكي مبادئها الأخلاقية لمشاركة أفضل ممارساتها حول تطبيق الذكاء الاصطناعي ودَعت إلى إجراء حوار مفتوح على مستوى الصناعة لوضع مبادئ توجيهية واضحة تحدد ما يجعل تطوير الحلول القائمة على الذكاء الاصطناعي وتعلم الآلة سليماً أخلاقياً.»
قدمت شركة كاسبرسكي مبادئها الأخلاقية هذه كجزء من منتدى حوكمة الإنترنت الذي تنظمه الأمم المتحدة، إذ ينعقد المنتدى في مدينة كيوتو في اليابان بين 8 إلى 12 أكتوبر. ويعد الذكاء الاصطناعي والتقنيات الناشئة موضوعين رئيسيين في نسخة هذا العام من المنتدى، لذا نظمت كاسبرسكي ورشة عمل لمناقشة المبادئ الأخلاقية لتطوير الذكاء الاصطناعي واستخدامه، وطرحت الاعتبارات الفنية والقانونية للمناقشة.
تعد هذه المبادئ الأخلاقية امتداداً لمبادرة كاسبرسكي العالمية للشفافية التي تعزز مبادئ الشفافية والمساءلة بين مزودي الحلول التقنية في سبيل بناء عالم أكثر مرونة وأماناً سيبرانياً. للتعرّف أكثر على مبادرة ومبادئ كاسبرسكي للشفافية، قدم طلباً لزيارة مركز كاسبرسكي للشفافية.
 

المصدر: بوابة الوفد

إقرأ أيضاً:

مساعد الذكاء الاصطناعي بواتساب يسرب رقم هاتف أحد المستخدمين

في حادثة غريبة من نوعها، قام مساعد الذكاء الاصطناعي الموجود في منصة "واتساب" بتوليد رقم الهاتف الخاص بأحد المستخدمين على أنه رقم خدمة العملاء الخاص بشركة " ترانس بينين إكسبريس" (TransPennine Express) بالمملكة المتحدة، وذلك بحسب تقرير "ذا غارديان".

كان باري سميثورست ينتظر القطار السريع المتجه إلى مدينة مانشستر بيكاديللي، وعندما تأخر القطار طلب من مساعد الذكاء الاصطناعي الموجود في "واتساب" الذي يعتمد على نماذج "لاما" (LLMA) من "ميتا" تزويده برقم الهاتف الخاص بخدمة عملاء الشركة للتواصل معهم، جاء الرد مع رقم هاتف مستخدم آخر وهو جيمس غراي دون وجود ما يربط بينه وبين خدمة عملاء الشركة أو سميثورست، سواءً كان في الموقع الجغرافي أو البيانات أو حتى تقاطع الدوائر الاجتماعية والوظائف بينهما.

وعندما واجه سميثورست مساعد الذكاء الاصطناعي في "واتساب" بأن الرقم خطأ ويعود لمستخدم آخر، ما كان منه إلا الاعتذار والتأكيد أن هذا الرقم مولد بشكل عشوائي ولا يعود إلى أي قاعدة بيانات، رغم إشارته إلى استخدام قاعدة بيانات عشوائية.

وعن هذا الأمر قال مايك ستانوب، المدير الإداري لشركة "كاروثرز وجاكسون للاستشارات الإستراتيجية في مجال البيانات" (Carruthers and Jackson) أثناء حديثه مع "ذا غارديان": "هذا مثال رائع على فشل الذكاء الاصطناعي. إذا كان مهندسو ميتا يصممون أساليب "الكذب الأبيض" في أنظمة الذكاء الاصطناعي الخاصة بهم، فإنهم يجب أن يعلموا الجمهور".

ومن جانبها قالت "ميتا" على لسان المتحدث الرسمي إن رقم الهاتف المذكور متاح بشكل عام عبر الإنترنت ويتشارك بعض الأرقام مع رقم هاتف خدمة العملاء الخاص بشركة "ترانس بينين إكسبريس"، مؤكدا أن النموذج تدرب على قواعد البيانات الخاصة بالشركة وهي لا تضم أرقام هواتف المستخدمين، بحسب ما جاء في تقرير "ذا غارديان".

إعلان

ويمثل هذا الموقف الأحدث في سلسلة من هلوسات الذكاء الاصطناعي من عدة شركات ونماذج مختلفة، بما فيها "شات جي بي تي" الذي أكد أن رجلا قتل أبناءه ومازال يقضي عقوبته في السجن رغم أن الحقيقة عكس ذلك.

مقالات مشابهة

  • مساعد العمري: مشاكل النصر لا يحلها إلا الذكاء الاصطناعي.. فيديو
  • عبدالغفار: الاستراتيجية الوطنية للذكاء الاصطناعي تضع الصحة ضمن أولوياتها
  • سلوكيات مرعبة للذكاء الاصطناعي بابتزاز وخيانة مطوريه
  • أكاديمي: دقة اتخاذ القرار في الذكاء الاصطناعي تتجاوز 90%  
  • تطبيقات “ميكروسوفت” للذكاء الاصطناعي تُعرض على سلطة حماية المعطيات
  • هكذا سيهيمن الذكاء الاصطناعي على المهن بحلول 2027
  • «نوتانيكس» تُعزز نشر الذكاء الاصطناعي الذاتي في مختلف البيئات عبر أحدث إصدار من منصتها للذكاء الاصطناعي المؤسسي
  • دراسة صادمة.. أنظمة الذكاء الاصطناعي تظهر سلوكا خطيرا للحفاظ على بقائها
  • مساعد الذكاء الاصطناعي بواتساب يسرب رقم هاتف أحد المستخدمين
  • «نائب محافظ سوهاج»..يفتتح أول مؤتمر للذكاء الاصطناعي بمشاركة 1000 شاب