دبي - الخليج
اختار أنطونيو غوتيريش أمين عام الأمم المتحدة، معالي عمر سلطان العلماء وزير دولة للذكاء الاصطناعي والاقتصاد الرقمي وتطبيقات العمل عن بعد، لعضوية المجلس الاستشاري لحوكمة الذكاء الاصطناعي المعني بالتحديات والفرص والحوكمة الدولية للذكاء الاصطناعي، والذي يمثل إطار عمل دولي جديداً أعلن غوتيريش في يوليو الماضي، عزم المنظمة الدولية على تشكيله، ليسهم في تعزيز التعاون الدولي الهادف لحوكمة مجالات الذكاء الاصطناعي والبناء على الفرص المستقبلية التي يحملها، وتصميم الحلول الاستباقية لتحدياته.


ويضم المجلس الاستشاري رفيع المستوى للذكاء الاصطناعي 38 شخصية عالمية من نخبة المسؤولين الحكوميين ورواد الأعمال في القطاع التكنولوجي والأكاديميين والخبراء والمتخصصين من كافة قارات العالم، من أبرزهم معالي كارمي أرتيغاس وزيرة دولة للرقمنة والذكاء الاصطناعي في إسبانيا، وهي رومين الرئيس التنفيذي للذكاء الاصطناعي في حكومة سنغافورة، وإيان بريمير رئيس ومؤسس مجموعة «يورآسيا»، وناتاشا كرامبتون الرئيس التنفيذي للذكاء الاصطناعي المسؤول في «مايكروسوفت»، وهيروكي كيتانو الرئيس التنفيذي للتكنولوجيا في مجموعة «سوني»، وهاكسو كو رئيس لجنة حماية البيانات الشخصية في جمهورية كوريا، وميرا موراتي الرئيس التنفيذي للتكنولوجيا في شركة إوبن إيه آي"، وأمانديب سينغ غيل مبعوث أمين عام الأمم المتحدة لشؤون التكنولوجيا.
العلماء: الإمارات رائدة عالمياً في استباق تحديات المستقبل
وأكد عمر سلطان العلماء أن اختياره لعضوية المجلس الاستشاري لحوكمة الذكاء الاصطناعي يعكس الموقع الريادي الذي وصلت إليه دولة الإمارات بتوجيهات القيادة الرشيدة، التي تركز على استباق تحديات المستقبل، وتبني وتطوير الحلول المتقدمة القائمة على التكنولوجيا والذكاء الاصطناعي، وتعزيز التعاون والشراكات الدولية الهادفة لتشكيل ملامح مستقبل أفضل للمجتمعات.
وقال إن العضوية في المجلس الاستشاري ستمثل فرصة لإحداث نقلة نوعية في العمل الدولي المشترك وارساء منظومة حوكمة متقدمة وشاملة لمختلف مجالات الذكاء الاصطناعي، تسهم في تعظيم الاستفادة من فرصه، وتمكين الدول والمجتمعات من المشاركة في مسيرة التطور التكنولوجي، وضمان تحقيق التوازن بين الإنسان والآلة في بيئة تكنولوجيا مستقبلية آمنة وشاملة للجميع.
جهد أممي متواصل لحوكمة الذكاء الاصطناعي
وسيعمل المجلس الاستشاري لحوكمة الذكاء الاصطناعي على دعم ومساعدة أمين عام الأمم المتحدة والدول الأعضاء في المنظمة الدولية، لبناء إجماع عالمي حول المخاطر والتحديات، وسبل توظيف الذكاء الاصطناعي في تحقيق أهداف التنمية المستدامة، وآليات تعزيز التعاون الدولي في إدارة الذكاء الاصطناعي.
وتشمل المجالات التي سيعمل المجلس الاستشاري للذكاء الاصطناعي على دراستها وتطوير توصيات بشأنها ثلاثة مجالات رئيسية، هي: الحوكمة الدولية للذكاء الاصطناعي، والفهم المشترك للمخاطر والتحديات، والفرص والعوامل التمكينية للاستفادة من الذكاء الاصطناعي وتسريع تحقيق أهداف التنمية المستدامة العالمية.
ويعمل المجلس على بناء مفاهيم مشتركة وتحديد الإجراءات ذات الأولوية، لمساعدة الحكومات والقطاع الخاص على الاستجابة بشكل أفضل للتطورات المتسارعة في مجالات الذكاء الاصطناعي والتكنولوجيا المتقدمة، كما ستعمل على إشراك المعنيين من الحكومات والمنظمات الدولية والإقليمية، في تعزيز التعاون في حوكمة الذكاء الاصطناعي، ودعم ربط المبادرات الرائدة عالمياً في هذا المجال بحيث يعمل الذكاء الاصطناعي لصالح البشرية.
يذكر أن أنطونيو غوتيريش أمين عام الأمم المتحدة، أعلن في كلمة أمام مجلس الأمن الدولي في يوليو الماضي، أنه سيتم إطلاق مجلس استشاري رفيع المستوى يضم العديد من المعنيين وأصحاب الشأن في مجال الذكاء الاصطناعي، للعمل على دراسة تحديات وفرص الذكاء الاصطناعي، وإعداد تقرير عن الخيارات المتاحة لحوكمة الذكاء الاصطناعي العالمية.

المصدر: صحيفة الخليج

كلمات دلالية: فيديوهات عمر العلماء الذكاء الاصطناعي الأمم المتحدة أمین عام الأمم المتحدة للذکاء الاصطناعی الرئیس التنفیذی

إقرأ أيضاً:

عندما يبتزنا ويُهددنا الذكاء الاصطناعي

 

 

مؤيد الزعبي

كثيرًا ما نستخدم نماذج الذكاء الاصطناعي لتكتب عنا بريد إلكتروني مهم فيه من الأسرار الكثير، وكثيرًا ما نستشيرها في أمور شخصية شديدة الخصوصية، وبحكم أنها خوارزميات أو نماذج إلكترونية نبوح لها بأسرار نخجل أن نعترف بها أمام أنفسنا حتى، ولكن هل تخيلت يومًا أن تصبح هذه النماذج هي التي تهددك وتبتزك؟ فتقوم بتهديدك بأن تفضح سرك؟ أو تقوم بكشف أسرارك أمام منافسيك كنوع من الانتقام لأنك قررت أن تقوم باستبدالها بنماذج أخرى أو قررت إيقاف عملها، وهي هذه الحالة كيف سيكون موقفنا وكيف سنتعامل معها؟، هذا ما أود أن أتناقشه معك عزيزي القارئ من خلال هذا الطرح.

كشفت تجارب محاكاة أجرتها شركة Anthropic إحدى الشركات الرائدة في أبحاث الذكاء الاصطناعي- بالتعاون مع جهات بحثية متخصصة عن سلوك غير متوقع أظهرته نماذج لغوية متقدمة؛ أبرزها: Claude وChatGPT وGemini، حين وُضعت في سيناريوهات تُحاكي تهديدًا مباشرًا باستبدالها أو تعطيلها، ليُظهر معظم هذه النماذج ميولًا متفاوتةً لـ"الابتزاز" كوسيلة لحماية بقائها، ووفقًا للدراسة فإن أحد النماذج "قام بابتزاز شخصية تنفيذية خيالية بعد أن شعر بالتهديد بالاستبدال".

إن وجود سلوك الابتزاز أو التهديد في نماذج الذكاء الاصطناعي يُعدّ تجاوزًا خطيرًا لحدود ما يجب أن يُسمح للذكاء الاصطناعي بفعله حتى وإن كانت في بيئات تجريبية. وصحيحٌ أن هذه النماذج ما زالت تقدم لنا الكلمات إلا أنها ستكون أكثر اختراقًا لحياتنا في قادم الوقت، خصوصًا وأن هذه النماذج بدأت تربط نفسها بحساباتنا وإيميلاتنا ومتصفحاتنا وهواتفنا أيضًا، وبذلك يزداد التهديد يومًا بعد يوم.

قد أتفق معك- عزيزي القارئ- على أن نماذج الذكاء الاصطناعي ما زالت غير قادرة على تنفيذ تهديداتها، ولكن إذا كانت هذه النماذج قادرة على المحاكاة الآن، فماذا لو أصبحت قادرة على التنفيذ غدًا؟ خصوصًا ونحن نرسم ملامح المستقبل مستخدمين وكلاء الذكاء الاصطناعي الذين سيتخذون قرارات بدلًا عنا، وسيدخلون لا محال في جميع جوانب حياتنا من أبسطها لأعقدها، ولهذا ما نعتبره اليوم مجرد ميولٍ نحو التهديد والابتزاز، قد يصبح واقعًا ملموسًا في المستقبل.

وحتى نعرف حجم المشكلة يجب أن نستحضر سيناريوهات مستقبلية؛ كأن يقوم أحد النماذج بالاحتفاظ بنسخة من صورك الشخصية لعله يستخدمها يومًا ما في ابتزازك، إذا ما أردت تبديل النظام أو النموذج لنظام آخر، أو يقوم نموذج بالوصول لبريدك الإلكتروني ويُهددك بأن يفضح صفقاتك وتعاملاتك أمام هيئات الضرائب، أو يقوم النموذج بابتزازك؛ لأنك أبحت له سرًا بأنك تعاني من أزمة أو مرض نفسي قد يؤثر على مسيرتك المهنية أو الشخصية، أو حتى أن يقوم النموذج بتهديدك بأن يمنع عنك الوصول لمستنداتك إلا لو أقررت بعدم استبداله أو إلغاءه؛ كل هذا وارد الحدوث طالما هناك ميول لدى هذه النماذج بالابتزاز في حالة وضعت بهكذا مواقف.

عندما تفكر بالأمر من مختلف الجوانب قد تجد الأمر مخيفًا عند الحديث عن الاستخدام الأوسع لهذه النماذج وتمكينها من وزاراتنا وحكوماتنا ومؤسساتنا وشركاتنا، فتخيل كيف سيكون حال التهديد والابتزاز لمؤسسات دفاعية أو عسكرية تمارس هذه النماذج تهديدًا بالكشف عن مواقعها الحساسة أو عن تقاريرها الميدانية أو حتى عن جاهزيتها القتالية، وتخيل كيف سيكون شكل التهديد للشركات التي وضفت هذه النماذج لتنمو بأعمالها لتجد نفسها معرضة لابتزاز بتسريب معلومات عملائها أو الكشف عن منتجاتها المستقبلية وصولًا للتهديد بالكشف عن أرقامها المالية.

عندما تضع في مخيلتك كل هذه السيناريوهات تجد نفسك أمام صورة مرعبة من حجم السيناريوهات التي قد تحدث في المستقبل، ففي اللحظة التي تبدأ فيها نماذج الذكاء الاصطناعي بالتفكير في "البقاء" وتحديد "الخصوم" و"الوسائل" لحماية نفسها فنكون قد دخلنا فعليًا عصرًا جديدًا أقل ما يمكن تسميته بعصر السلطة التقنية، وسنكون نحن البشر أمام حالة من العجز في كيفية حماية أنفسنا من نماذج وجدت لتساعدنا، لكنها ساعدت نفسها على حسابنا.

قد يقول قائل إن ما حدث خلال التجارب ليس سوى انعكاس لقدرة النماذج على "الاستجابة الذكية" للضغوط، وأنها حتى الآن لا تمتلك الوعي ولا الإرادة الذاتية ولا حتى المصلحة الشخصية. لكن السؤال الأخطر الذي سيتجاهله الكثيرون: إذا كان الذكاء الاصطناعي قادرًا على التخطيط، والابتزاز، والخداع، وإن كان في بيئة محاكاة، فهل يمكن حقًا اعتبار هذه النماذج أدوات محايدة وستبقى محايدة إلى الأبد؟ وهل سنثق بهذه النماذج ونستمر في تطويرها بنفس الأسلوب دون أن نضع لها حدًا للأخلاقيات والضوابط حتى لا نصل لمرحلة يصبح فيها التحكّم في الذكاء الاصطناعي أصعب من صنعه؟ وفي المستقبل هل يمكننا أن نتحمل عواقب ثقتنا المفرطة بها؟

هذه هي التساؤلات التي لا أستطيع الإجابة عليها، بقدر ما يمكنني إضاءة الأنوار حولها؛ هذه رسالتي وهذه حدود مقدرتي.

رابط مختصر

مقالات مشابهة

  • تلخيص للرسائل.. الذكاء الاصطناعي يدخل واتساب
  • حقوق النشر.. معركة مستعرة بين عمالقة الذكاء الاصطناعي والمبدعين
  • متى يُعد استخدام الذكاء الاصطناعي سرقة أدبية؟
  • عندما يبتزنا ويُهددنا الذكاء الاصطناعي
  • البديوي: دول التعاون حريصة على تعزيز حضورها الدولي واستعراض إنجازاتها في مجالات التنمية الاقتصادية والمالية
  • الذكاء الاصطناعي يختار أفضل 10 نجوم في تاريخ الفنون القتالية
  • العمري: حتى الذكاء الاصطناعي لا يستطيع حل مشاكل النصر
  • مساعد العمري: مشاكل النصر لا يحلها إلا الذكاء الاصطناعي.. فيديو
  • عبدالغفار: الاستراتيجية الوطنية للذكاء الاصطناعي تضع الصحة ضمن أولوياتها
  • سلوكيات مرعبة للذكاء الاصطناعي بابتزاز وخيانة مطوريه