أعلنت شركة OpenAI عن تشكيل لجنة مستقلة جديدة للإشراف على السلامة
قال الرئيس التنفيذي لشركة OpenAI سام ألتمان خلال مؤتمر Microsoft Build في مقر Microsoft في ريدموند بواشنطن في 21 مايو 2024. جيسون ريدموند | وكالة فرانس برس | صور جيتي قالت شركة OpenAI يوم الاثنين إن لجنة السلامة والأمن التابعة لها، والتي قدمتها الشركة في مايو أثناء تعاملها مع الجدل حول عمليات الأمان، ستصبح لجنة إشراف مستقلة لمجلس الإدارة. سيرأس المجموعة زيكو كولتر، مدير قسم التعلم الآلي في كلية علوم الكمبيوتر بجامعة كارنيجي ميلون. ومن بين الأعضاء الآخرين آدم دي أنجيلو، عضو مجلس إدارة OpenAI والمؤسس المشارك لـ Quora، ورئيس وكالة الأمن القومي السابق وعضو مجلس الإدارة بول ناكاسوني، و نيكول سيليجمان، نائب الرئيس التنفيذي السابق لشركة Sony. وقالت الشركة إن اللجنة ستشرف على “عمليات السلامة والأمان التي توجه نشر وتطوير نموذج OpenAI”. وقد اختتمت مؤخرًا مراجعتها التي استمرت 90 يومًا لتقييم عمليات OpenAI والضمانات ثم قدمت توصيات إلى مجلس الإدارة. تصدر OpenAI نتائج المجموعة كإعلان عام تدوينة.OpenAI، مايكروسوفت– شركة ناشئة مدعومة من ChatGPT و بحثGPTتسعى شركة Thrive Capital حاليًا إلى جولة تمويلية من شأنها أن تقدر قيمة الشركة بأكثر من 150 مليار دولار، وفقًا لمصادر مطلعة على الموقف طلبت عدم ذكر اسمها لأن تفاصيل الجولة لم يتم الكشف عنها بعد. قائد الجولة وتخطط لاستثمار مليار دولار، تايجر جلوبال تخطط للانضمام أيضًا. مايكروسوفت، نفيديا و تفاحة نكون يقال كما تجري محادثات للاستثمار. وتضمنت التوصيات الخمس الرئيسية للجنة الحاجة إلى إنشاء حوكمة مستقلة للسلامة والأمن، وتعزيز تدابير الأمن، والشفافية بشأن عمل OpenAI، والتعاون مع المنظمات الخارجية؛ وتوحيد أطر السلامة الخاصة بالشركة. وفي الأسبوع الماضي، أصدرت OpenAI o1، وهي نسخة معاينة من نموذج الذكاء الاصطناعي الجديد الذي يركز على التفكير و”حل المشكلات الصعبة”. وقالت الشركة إن اللجنة “راجعت معايير السلامة والأمان التي استخدمتها OpenAI لتقييم مدى ملاءمة OpenAI o1 للإطلاق”، بالإضافة إلى نتائج تقييم السلامة. وستمارس اللجنة “جنبًا إلى جنب مع مجلس الإدارة بالكامل، الرقابة على عمليات إطلاق النماذج، بما في ذلك الحصول على سلطة تأخير الإصدار حتى تتم معالجة المخاوف المتعلقة بالسلامة”. وفي حين كانت OpenAI في وضع نمو مفرط منذ أواخر عام 2022، عندما أطلقت ChatGPT، فقد كانت في نفس الوقت مليئة بالجدال و رحيل الموظفين رفيعي المستوى، مع بعض الموظفين الحاليين والسابقين الذين يشعرون بالقلق من أن الشركة تنمو بسرعة كبيرة بحيث لا يمكن تشغيلها بأمان. في يوليو، أرسل أعضاء مجلس الشيوخ الديمقراطيون خطاب إلى الرئيس التنفيذي لشركة OpenAI سام ألتمان بشأن “الأسئلة حول كيفية تعامل OpenAI مع المخاوف الأمنية الناشئة”. في الشهر السابق، نشرت مجموعة من موظفي OpenAI الحاليين والسابقين تقريرًا رسالة مفتوحة ووصف المخاوف بشأن الافتقار إلى الرقابة وغياب حماية المبلغين عن المخالفات لأولئك الذين يرغبون في التحدث. وفي مايو، تحدث عضو سابق في مجلس إدارة OpenAI عن ألتمان إقالة مؤقتة في نوفمبر، قال هو قدم إلى المجلس “معلومات غير دقيقة حول العدد الصغير من عمليات السلامة الرسمية التي كانت الشركة تطبقها” في مناسبات متعددة. في ذلك الشهر، قررت OpenAI قررت شركة مايكروسوفت حل فريقها الذي يركز على المخاطر طويلة الأجل للذكاء الاصطناعي بعد عام واحد فقط من الإعلان عن المجموعة. أعلن قادة الفريق، إيليا سوتسكيفر ويان لايكي، أعلنوا رحيلهم من OpenAI في مايو. كتب Leike في منشور على X أن “ثقافة السلامة والعمليات الخاصة بـ OpenAI أصبحت في مرتبة ثانوية مقارنة بالمنتجات اللامعة”. شاهد: OpenAI هي الشركة الرائدة بلا منازع في دورة الذكاء الاصطناعي الفائقة
المصدر
