مجلس السلامة الجديد في OpenAI من دون سام ألتمان
تاريخ النشر: 17th, September 2024 GMT
أعلنت OpenAI عن تغييرات كبيرة في ممارسات السلامة والأمن الخاصة بها، بما في ذلك إنشاء لجنة إشراف مستقلة جديدة لمجلس الإدارة.
تأتي هذه الخطوة مع تحول ملحوظ: لم يعد الرئيس التنفيذي سام ألتمان جزءًا من لجنة السلامة، مما يمثل خروجًا عن الهيكل السابق.
سيرأس لجنة السلامة والأمن (SSC) المشكلة حديثًا زيكو كولتر، مدير قسم التعلم الآلي في جامعة كارنيجي ميلون.
ومن بين الأعضاء الرئيسيين الآخرين الرئيس التنفيذي لشركة Quora آدم دانجيلو، والجنرال المتقاعد في الجيش الأمريكي بول ناكاسوني، ونيكول سيليجمان، نائب الرئيس التنفيذي السابق والمستشار العام لشركة Sony Corporation.
تحل هذه اللجنة الجديدة محل لجنة السلامة والأمن السابقة التي تم تشكيلها في يونيو 2024، والتي ضمت ألتمان بين أعضائها.
تم تكليف اللجنة الأصلية بتقديم توصيات بشأن قرارات السلامة والأمن الحاسمة لمشاريع وعمليات OpenAI.
تمتد مسؤوليات لجنة السلامة والأمن الآن إلى ما هو أبعد من التوصيات. وستتمتع اللجنة بسلطة الإشراف على تقييمات السلامة لإصدارات النماذج الرئيسية وممارسة الرقابة على إطلاق النماذج.
والأمر الحاسم هو أن اللجنة ستتمتع بسلطة تأخير الإصدار حتى تتم معالجة المخاوف المتعلقة بالسلامة بشكل كافٍ.
تأتي إعادة الهيكلة هذه بعد فترة من التدقيق فيما يتعلق بالتزام OpenAI بسلامة الذكاء الاصطناعي.
واجهت الشركة انتقادات في الماضي لحل فريق Superalignment ورحيل الموظفين الرئيسيين الذين يركزون على السلامة.
ويبدو أن إزالة ألتمان من لجنة السلامة هي محاولة لمعالجة المخاوف بشأن تضارب المصالح المحتمل في إشراف الشركة على السلامة.
تتضمن أحدث مبادرة سلامة لشركة OpenAI أيضًا خططًا لتعزيز تدابير الأمن وزيادة الشفافية حول عملهم والتعاون مع المنظمات الخارجية.
وقد توصلت الشركة بالفعل إلى اتفاقيات مع معاهد سلامة الذكاء الاصطناعي في الولايات المتحدة والمملكة المتحدة للتعاون في البحث في مخاطر سلامة الذكاء الاصطناعي الناشئة ومعايير الذكاء الاصطناعي الجدير بالثقة.
المصدر: بوابة الوفد
كلمات دلالية: الذکاء الاصطناعی السلامة والأمن لجنة السلامة
إقرأ أيضاً:
هل يصبح الخليج قوة عظمى في الذكاء الاصطناعي؟
تنافس دول الخليج الغنية بالطاقة على أن تصبح مراكز للبنية التحتية للذكاء الاصطناعي المُستهلكة للكهرباء، مُراهنةً على هذه التكنولوجيا لتشغيل كل شيء من التنويع الاقتصادي إلى الخدمات الحكومية، وفق ما ذكرت صحيفة فايننشال تايمز البريطانية.
وحسب تقرير للصحيفة، فقد أبرزت الصفقات التي كُشف عنها خلال زيارة الرئيس الأميركي دونالد ترامب للمنطقة الشهر الماضي، تطلعات السعودية والإمارات إلى أن تُصبحا قوتين عظميين في مجال الذكاء الاصطناعي.
اقرأ أيضا list of 2 itemslist 1 of 2أوبك بلس تزيد إنتاج النفط في يوليو 411 ألف برميل يومياlist 2 of 2خسائر اقتصادية واستياء شعبي جراء أزمة الكهرباء في إيرانend of listيشمل ذلك شراكة بين شركة إنفيديا العملاقة للرقائق الإلكترونية وشركة هومين، وهي مجموعة ذكاء اصطناعي حديثة التأسيس ومدعومة من الحكومة السعودية، ولديها خطط طموحة لإطلاق صندوق استثماري بقيمة 10 مليارات دولار وتأمين استثمارات من شركات التكنولوجيا الأميركية.
وأعلنت أبوظبي مجموعة ضخمة من مراكز البيانات لشركة أوبن إيه آي وشركات أميركية أخرى كجزء من مشروعها (ستارغيت)، وتستثمر الإمارة، التي تُدير 1.7 تريليون دولار من صناديق الثروة السيادية، مليارات الدولارات من خلال صندوق الذكاء الاصطناعي إم جي إكس MGX، وتفتتح جامعة محمد بن زايد للذكاء الاصطناعي التابعة لها مركزًا في وادي السيليكون.
إعلانونقلت الصحيفة عن الزميل في مؤسسة كارنيغي للسلام الدولي، سام وينتر ليفي "إن دول الخليج تمتلك رأس المال والطاقة والإرادة السياسية"، مضيفًا: "الشيء الوحيد الذي لم تكن تمتلكه هذه الدول هو الرقاقات والأشخاص ذوي المواهب. والآن [بعد زيارة ترامب] قد تمتلك الرقاقات".
ويحذر الخبراء من أن طموحات المنطقة الواسعة في مجال الذكاء الاصطناعي قد تواجه تحديات، إذ يفتقر كلا البلدين إلى القوى العاملة الماهرة التي تمتلكها وادي السيليكون أو شنغهاي، كما أن مخرجات البحث العلمي متأخرة عن دول أخرى.
وتستثمر السعودية والإمارات في الذكاء الاصطناعي، وتعتمدان على التكنولوجيا سريعة التطور لمساعدتهما على تعزيز التنوع الاقتصادي، وتقليل الاعتماد على عائدات الوقود الأحفوري المتقلبة.
ويرغب البلدان في استضافة مراكز البيانات الضخمة اللازمة لتدريب وتشغيل نماذج ذكاء اصطناعي قوية، وتخطط شركة هيومين Humain لبناء "مصانع ذكاء اصطناعي" مدعومة بمئات الآلاف من رقاقات إنفيديا Nvidia على مدى السنوات الخمس المقبلة.
وتعهدت شركة إيه إم دي AMD، الأميركية الصانعة للرقائق، بتوفير الرقائق والبرمجيات لمراكز البيانات "الممتدة من السعودية إلى الولايات المتحدة" في مشروع بقيمة 10 مليارات دولار.
وفي حين أن مزودي مراكز البيانات التي تُصدر الحرارة عادةً ما يختارون المناطق الأكثر برودة، وترى دول الخليج أن وفرة الأراضي والطاقة الرخيصة تُغني عن درجات حرارة الصيف الحارقة.
ضعف الشركات الرائدةوعلى الرغم من كل طموحاتها، لا تمتلك دول الخليج شركة رائدة تُطور نماذج ذكاء اصطناعي، مثل أوبن إيه آي OpenAI، أو ديب سيك DeepSeek الصينية، أو ميسترال Mistral الفرنسية، كما تفتقر إلى تركيز عالٍ من المواهب البحثية في مجال الذكاء الاصطناعي، وفقًا لبيانات منظمة التعاون الاقتصادي والتنمية.
إعلانولجذب أفضل المواهب في مجال الذكاء الاصطناعي، تجتذب دول الخليج شركات وباحثين في مجال الذكاء الاصطناعي من الخارج بضرائب منخفضة و"تأشيرات ذهبية" طويلة الأجل ولوائح تنظيمية متساهلة.
تُظهر البيانات التي جمعتها منظمة التعاون الاقتصادي والتنمية من شبكة لينكدإن للوظائف، أن ثالث أعلى مستوى لهجرة الأشخاص ذوي مهارات الذكاء الاصطناعي بين عامي 2019 و2024 كان إلى الإمارات، إذ جاءت الدولة الخليجية بعد دول أخرى منخفضة الضرائب مثل لوكسمبورغ وقبرص.
وتسعى دول الخليج إلى إقامة شراكات مع جهات غربية لتعزيز تطلعاتها التكنولوجية، وقد أعلنت مجموعة الذكاء الاصطناعي الإماراتية جي 42 – G42 الأسبوع الماضي عن شراكتها مع شركة ميسترال لتطوير منصات وبنية تحتية للذكاء الاصطناعي. كما أقامت شراكة مع شركة صناعة الرقائق الأميركية Cerebras، التي تدير أجهزة الكمبيوتر العملاقة الخاصة بها، وفي العام الماضي، استعانت بشركة مايكروسوفت، التي استثمرت 1.5 مليار دولار لشراء حصة أقلية.
التحدي الصينيويحذر خبراء أميركيون من تسرب التكنولوجيا الأميركية إلى الصين، ويبدو كثيرون في المؤسسة الأمنية الأميركية قلقين بشأن العلاقات مع دول الخليج في حال أصبحت منافسًا للذكاء الاصطناعي.
ونقلت الصحيفة عن كبير مستشاري تحليل التكنولوجيا في مؤسسة راند، جيمي غودريتش: "يكمن القلق في أن تلجأ [دول الخليج]، في سعيها للتنافسية، إلى اختصار الطريق واستخدام كثير من العمالة الصينية أو حتى الشركات الصينية.. هذا يفتح الباب أمام مخاطر أمنية".
وأضاف أن الشركات الصينية قد تلجأ إلى الالتفاف على القيود المفروضة على التكنولوجيا الأميركية.
اقتراح أميركي يسمح لإيران بتخصيب اليورانيوم.. ولكن!