"جي 42" تنشر إطار عملها للسلامة في مجال الـ AI الحدودي
تاريخ النشر: 6th, February 2025 GMT
أطلقت مجموعة "جي 42"، الإماراتية، إطار عملها للسلامة في مجال الذكاء الاصطناعي الحدودي (Frontier AI)، وذلك تأكيداً على التزامها بمبادئ السلامة للذكاء الاصطناعي الحدودي المنصوص عليها في قمة سيول للذكاء الاصطناعي وإعلان بلتشلي.
ويضع الإطار آليات واضحة لتقييم المخاطر، وتعزيز الحوكمة، وتوفير الإشراف الخارجي، بما يضمن تطوير نماذج الذكاء الاصطناعي المتقدّمة بطريقة آمنة ومسؤولة.
ومع التطوّر المستمر في قدرات الذكاء الاصطناعي، يضع إطار عمل "جي 42" ضوابط واضحة للقدرات الرائدة، وآليات حوكمة مستقلة، وضمانات للنشر، مما يتيح تحديد مخاطر الذكاء الاصطناعي والتخفيف منها قبل أن تصل إلى مستويات حرجة. ويتماشى هذا النهج مع أفضل الممارسات العالمية، مع المساهمة في تعزيز جهود السلامة المستمرة للذكاء الاصطناعي على مستوى العالم.
تعليقاً على ذلك، قال بينج شياو، الرئيس التنفيذي لمجموعة "جي 42": "الذكاء الاصطناعي هو التكنولوجيا التي ترسم ملامح عصرنا، وهي أداة أساسية من شأنها إعادة تشكيل الاقتصادات والمجتمعات، تماماً كما فعلت الكهرباء في الماضي. ومع هذه القوة تأتي المسؤولية، إذ يعكس إطار العمل هذا التزامنا بسلامة الذكاء الاصطناعي، وضمان تقدّم الابتكار مع وجود الضمانات المناسبة."
يقدّم إطار عمل السلامة في مجال الذكاء الاصطناعي الحدودي نهجاً متعدد الطبقات لإدارة مخاطر الذكاء الاصطناعي، مما يضمن تطوير أنظمة الذكاء الاصطناعي المتقدّمة واختبارها ونشرها بشكل مسؤول. ويشمل ذلك:
مجلس إدارة "جي 42" للذكاء الاصطناعي الحدودي: يشرف على امتثال النماذج لبروتوكولات السلامة والاستجابة للحوادث. يضم مجلس الإدارة كلاً من الدكتور أندرو جاكسون، كبير مسؤولي الذكاء الاصطناعي؛ وألكسندر ترافتون، رئيس مخاطر التكنولوجيا؛ ومارتن إيدلمان، المستشار العام؛ وأديل أوهيرليهي، رئيس الذكاء الاصطناعي المسؤول. عمليات التدقيق المستقلة وتدابير الشفافية: ستجري "جي 42" عمليات تدقيق داخلية منتظمة للحوكمة، إضافةً إلى المشاركة في مراجعات خارجية سنوية لضمان الامتثال لأفضل معايير السلامة. كما ستصدر الشركة تقرير شفافية يسلّط الضوء على رؤى السلامة الرئيسية وتقييمات المخاطر. تحديد عتبات المخاطر واستراتيجيات التخفيف: يحدد الإطار عتبات واضحة لقدرات النماذج، مما يتيح تقييم المخاطر المرتبطة بالتهديدات البيولوجية، وثغرات الأمن السيبراني، ومخاطر اتخاذ القرار الذاتي. وفي حال اقتراب النموذج من هذه العتبات، ستتخذ "جي 42" إجراءات تشمل تنفيذ ضمانات إضافية، أو تعديل سلوك النظام، أو تقييد نطاق النشر.حظي تطوير إطار عمل السلامة في مجال الذكاء الاصطناعي الحدودي بدعم نخبة من خبراء مخاطر الذكاء الاصطناعي، بما في ذلك METR وSaferAI، حيث أسهمت رؤاهم في صياغة استراتيجيات الحوكمة والتخفيف من المخاطر الواردة في الإطار، مما يعزز التزام "جي 42" بتطوير ذكاء اصطناعي آمن ومسؤول.
تعد "جي 42" من أوائل الشركات في الشرق الأوسط التي قدّمت إطار عمل شامل لسلامة الذكاء الاصطناعي، مما يعزز دورها الرائد في حوكمة الذكاء الاصطناعي والحد من المخاطر المرتبطة به. وتواصل الشركة التعاون مع الجهات التنظيمية وصناع السياسات وشركاء القطاع لتعزيز ممارسات السلامة، والمساهمة بفاعلية في مناقشات الحوكمة العالمية لضمان تطوير واستخدام مسؤول لهذه التكنولوجيا.
من جانبه، قال الدكتور أندرو جاكسون، كبير مسؤولي الذكاء الاصطناعي في "جي 42" والرئيس التنفيذي لشركة "إنسبشن": "إن السلامة في مجال الذكاء الاصطناعي هي جهد مستمر يتطلب حوكمة قوية ومساءلة وتعاوناً عبر كافة الصناعات. ومن خلال دمج الشفافية وإدارة المخاطر الاستباقية في أنظمة الذكاء الاصطناعي لدينا، فإننا نضمن أن يظل الابتكار مسؤولاً ومتماشياً مع المصالح المجتمعية."
ولتطبيق إطار عمل السلامة في مجال الذكاء الاصطناعي الحدودي، أطلقت "جي 42" X-Risks Leaderboard، وهي منصّة تقييم مفتوحة تقيس مخاطر نماذج الذكاء الاصطناعي في مجالات الأمن السيبراني والكيمياء والأحياء. وقد تم تطويرها انطلاقاً من مجموعة تقييم السلامة الخاصة بشركة "إنسيبشن"، بهدف توفير تقييم عملي لنقاط الضعف المحتملة في الذكاء الاصطناعي، مما يعكس التزام "جي 42" بتعزيز سلامة الذكاء الاصطناعي، من خلال مناقشة السياسيات، ووضع ضمانات شفافة وقابلة للقياس.
واستناداً إلى شراكاتها الحالية مع شركات رائدة مثل مايكروسوفت وإنفيديا وإي إم دي وسيريبراس وكوالكوم، تواصل "جي 42" التزامها بالتعاون مع الموقّعين الآخرين على الالتزامات، كما ستستمر في المشاركة بجهود السلامة المختلفة من خلال تبادل معلومات التهديدات مع الشركاء في القطاع، وذلك بهدف مواجهة التحديات المشتركة والتصدي للمخاطر الناشئة.
المصدر: سكاي نيوز عربية
كلمات دلالية: ملفات ملفات ملفات الذكاء الاصطناعي جي 42 مخاطر الذكاء الاصطناعي التكنولوجيا الاقتصادات الكهرباء حوكمة مايكروسوفت وكوالكوم جي 42 شركة جي 42 الذكاء الاصطناعي قوة الذكاء الاصطناعي الشركات الإماراتية الذكاء الاصطناعي جي 42 مخاطر الذكاء الاصطناعي التكنولوجيا الاقتصادات الكهرباء حوكمة مايكروسوفت وكوالكوم ذكاء اصطناعي للذکاء الاصطناعی إطار عمل
إقرأ أيضاً:
استخدام تقنيات الذكاء الاصطناعي عند أبواب المسجد الحرام
مكة المكرمة
تستخدم الهيئة العامة للعناية بشؤون المسجد الحرام والمسجد النبوي تقنية متطورة تعتمد على الذكاء الاصطناعي من خلال حساسات قارئة عند أبواب المسجد الحرام.
وتأتي هذه التقنية لرصد الأعداد على أرضية المداخل الرئيسة للمسجد الحرام، بهدف رفع الكفاءة التشغيلية عبر متابعة التدفقات لتمكين الجهات ذات العلاقة من اتخاذ القرار المناسب في عمليات إدارة الحشود بفاعلية لتحسين الانسيابية.
وتستشعر الكاميرات الذكية حركة الدخول والخروج؛ مما يتيح مراقبة فورية لتدفقات ضيوف الرحمن وتحديد نقاط الازدحام بدقة أكبر.
ويسهم هذا النظام المزدوج من الحساسات والكاميرات في تحسين توزيع الحشود داخل المسجد الحرام، لا سيما في أدوار المطاف والمسعى؛ مما يساعد على تنظيم الحركة وتعزيز سلامة الزوار، خاصة خلال أوقات الذروة.
كما تسهل هذه التقنية تسهيل انسيابية الدخول والخروج عبر الاعتماد على البيانات الدقيقة والتاريخية في اتخاذ القرارات المناسبة؛ مما يعكس أهمية تبني مثل هذه الأنظمة لدعم التخطيط الفعّال وإدارة الحشود وفق معايير عالية الدقة.
وأوضحت الهيئة أن استخدام هذه التقنية يأتي لرصد حركة الدخول والخروج بدقة متناهية وتعزيز كفاءة أنظمة إدارة الحشود وتطوير وسائل مراقبة التدفقات البشرية داخل المسجد الحرام، وتحليل الازدحام من أجل دعم الجهات المعنية العاملة في المسجد الحرام لتحسين التفويج وتعزيز التشغيل بتوزيع الأدوار وتحويل الكثافات بما يحقق أعلى مستويات الانسيابية والتنظيم.
وتأتي هذه الخطوة ضمن جهود الهيئة المستمرة لاستثمار التقنيات في تحسين خدمات ضيوف الرحمن، واتخاذ قرارات قائمة على بيانات دقيقة وتحليل شامل للحركة داخل المسجد الحرام.
زلزال نحر الأضحية نيابة عن المغاربة يسقط مسؤولين كبار بالمجلس العلمي ووزارة الأوقاف