OpenAI تعيد هيكلة لجنة السلامة والأمن وتستبعد سام ألتمان
تاريخ النشر: 17th, September 2024 GMT
أعلنت شركة OpenAI عن تغييرات جوهرية في ممارسات السلامة والأمن لديها، تشمل إنشاء لجنة إشراف مستقلة جديدة. يأتي هذا التحول مع تغيير ملحوظ: استبعاد الرئيس التنفيذي سام ألتمان من لجنة السلامة، في خروج عن الهيكل السابق.
سيترأس اللجنة الجديدة للسلامة والأمن (SSC)؛ زيكو كولتر مدير قسم التعلم الآلي في جامعة كارنيجي ميلون.
تحل هذه اللجنة محل لجنة السلامة والأمن السابقة التي تشكلت في يونيو 2024، والتي كان سام ألتمان أحد أعضائها. وستتجاوز مسؤوليات اللجنة الجديدة تقديم التوصيات، حيث ستتمتع بصلاحية الإشراف على تقييمات السلامة للإصدارات الرئيسية للنماذج والرقابة على إطلاقها. والأهم من ذلك، ستمتلك اللجنة سلطة تأجيل إطلاق أي نموذج حتى معالجة مخاوف السلامة بشكل كافٍ.
تأتي إعادة الهيكلة بعد فترة من التدقيق في التزام OpenAI بسلامة الذكاء الاصطناعي. واجهت الشركة انتقادات في الماضي لحل فريق التوافق الفائق ومغادرة موظفين رئيسيين متخصصين في السلامة. ويبدو أن استبعاد ألتمان من لجنة السلامة محاولة لمعالجة المخاوف بشأن تضارب المصالح المحتمل في الرقابة على السلامة في الشركة.
تتضمن مبادرة السلامة الأخيرة لـ OpenAI خططًا لتعزيز إجراءات الأمان، وزيادة الشفافية حول عملها، والتعاون مع المنظمات الخارجية. وقد أبرمت الشركة بالفعل اتفاقيات مع معاهد سلامة الذكاء الاصطناعي في الولايات المتحدة والمملكة المتحدة للتعاون في البحث عن مخاطر السلامة الناشئة ووضع معايير للذكاء الاصطناعي الموثوق.
المصدر
Source link مرتبط
المصدر: الميدان اليمني
كلمات دلالية: لجنة السلامة سام ألتمان
إقرأ أيضاً:
سام ألتمان يحذر:شات جي بي تي لن يحفظ أسرارك
حذر سام ألتمان، المدير التنفيذي لشركة "أوبن إيه آي" من الحديث إلى "شات جي بي تي" في الأمور الخاصة والكشف عن الأسرار الشخصية لغياب الخصوصية والحماية القانونية لهذه الأحاديث، وفق ما جاء في تقرير موقع "تيك كرانش" التقني.
وجاء هذا التحذير ضمن حلقة البودكاست الأخيرة في برنامج "عطلة نهاية الأسبوع الماضية مع ثيو فون" (This Past Weekend w/ Theo Von) التي استضافت سام ألتمان أكثر من ساعة ونصف ساعة.
ووضح ألتمان مقصده: "يتحدث الناس عن أكثر الأمور شخصية مع شات جي بي تي، كما أن الشباب تحديدا يستخدمونه معالجا نفسيا ومدربا للحياة، يطلبون نصائحه في العلاقات الشخصية، وإذا تحدثت إلى معالج أو محام أو طبيب في هذه المشكلات، فهناك امتياز قانوني لذلك وهناك سرية بين الطبيب والمريض والسرية القانونية وما إلى ذلك، ولكننا لم نكتشف بعد نوع السرية عند الحديث مع شات جي بي تي".
وأضاف، أن هذا الأمر قد يتسبب في متاعب قانونية لاحقا للمستخدم حال مقاضاته في أي وقت من الأوقات، إذ تكون "أوبن إيه آي" ملزمة قانونيا بتقديم هذه المحادثات بينك وبين "شات جي بي تي" إلى الجهات القانونية المسؤولة عنها.
ورغم إدراك الشركة أن غياب الخصوصية يعوق انتشار النموذج وتبنيه بشكل أوسع، إلا أنها تخشى التحديات القانونية لمثل هذا الأمر، إذ واجهت الشركة دعاوى بتقديم محادثات المستخدمين للقضاء، وذلك وفق ما جاء في تقرير "تيك كرانش".
ويذكر أن "أوبن إيه آي" تواجه الآن دعوى قضائية موسعة من صحيفة "نيو يورك تايمز" بسبب استخدامها محتواها في تدريب "شات جي بي تي"، وتضمنت الدعوى طلبا من الصحيفة بحفظ كافة المحادثات بين النموذج ومستخدميه عالميا وفق التقرير.
ودفع هذا الأمر الشركة إلى نشر توضيح مباشر عبر موقعها الرسمي، مؤكدة أن هذا تجاوز من المحكمة التي تحاول تغيير سياسة الخصوصية التابعة للشركة، وفق ما جاء في التقرير.
إعلانوفي اللقاء، وضح ثيو فون مقدم اللقاء، أنه لا يتحدث إلى "شات جي بي تي" كثيرا بسبب مخاوفه من الخصوصية، وهو الأمر الذي أشاد به سام ألتمان قائلا، إنه "أمر منطقي"، كما جاء في التقرير.
من يمنح الإرهابيين تأشيرة عبور؟