الديمقراطيون يضغطون على سام ألتمان بشأن سجل السلامة الخاص بشركة OpenAI
“نظرًا للتناقض بين تعليقاتك العامة وتقارير تصرفات OpenAI، فإننا نطلب معلومات حول حماية المبلغين عن المخالفات وتضارب المصالح في OpenAI من أجل فهم ما إذا كان التدخل الفيدرالي قد يكون ضروريًا،” كتب وارن وتراهان في رسالة إلى OpenAI. الرسالة تمت مشاركتها حصريًا مع The Vergeاستشهد المشرعون بعدة حالات حيث تم التشكيك في إجراءات السلامة الخاصة بـ OpenAI. على سبيل المثال، قالوا، في عام 2022، تم اختبار نسخة غير منشورة من GPT-4 في إصدار جديد من محرك البحث Microsoft Bing في الهند قبل الحصول على موافقة من مجلس السلامة في OpenAI. كما قاموا أيضًا بسحب برنامج Altman إقالة قصيرة من الشركة في عام 2023، نتيجة لمخاوف مجلس الإدارة، جزئيًا، بشأن “تسويق التطورات قبل فهم العواقب”. تأتي رسالة وارن وتراهان إلى ألتمان في الوقت الذي أعلنت فيه الشركة عن خططها لتوسيع نطاق عملها. تعاني من قائمة طويلة من المخاوف المتعلقة بالسلامة، والتي غالبًا ما تتعارض مع البيانات العامة للشركة. على سبيل المثال، مصدر مجهول وقال لصحيفة واشنطن بوست وقد أشار تقرير صحيفة واشنطن بوست إلى أن شركة OpenAI سارعت في إجراء اختبارات السلامة، وتم حل فريق Superalignment (الذي كان مسؤولاً جزئيًا عن السلامة)، واستقال أحد المسؤولين التنفيذيين عن السلامة مدعيًا أن “ثقافة السلامة والعمليات أصبحت في المرتبة الثانية بعد المنتجات اللامعة”. ونفت ليندسي هيلد، المتحدثة باسم OpenAI، الادعاءات الواردة في تقرير صحيفة واشنطن بوست، وأن الشركة “لم تقصر في عملية السلامة لدينا، على الرغم من أننا ندرك أن الإطلاق كان مرهقًا لفرقنا”. كما سعى مشرعون آخرون إلى الحصول على إجابات بشأن ممارسات السلامة في الشركة، بما في ذلك مجموعة من أعضاء مجلس الشيوخ بقيادة بريان شاتز (ديمقراطي من هاواي) في يوليو. طلب وارن وتراهان مزيدًا من التوضيح بشأن استجابات OpenAI لتلك المجموعةبما في ذلك إنشاء “خط نزاهة” جديد للموظفين للإبلاغ عن المخاوف. وفي الوقت نفسه، يبدو أن OpenAI في حالة هجوم. في يوليو، أعلنت الشركة أعلنت عن شراكة مع مختبر لوس ألاموس الوطني لاستكشاف كيف يمكن لنماذج الذكاء الاصطناعي المتقدمة أن تساعد بأمان في البحث العلمي البيولوجي. في الأسبوع الماضي فقط، أعلن عبر X أن OpenAI تتعاون مع معهد سلامة الذكاء الاصطناعي الأمريكي وأكد أن 20 في المائة من موارد الحوسبة في الشركة ستخصص للسلامة (وهو الوعد الذي تم تقديمه في الأصل لفريق Superalignment المنحل الآن). في نفس المنشور، قال ألتمان أيضًا أن OpenAI قد أزالت بنود عدم التشهير للموظفين والأحكام التي تسمح بإلغاء حقوق الملكية المكتسبة، وهي قضية رئيسية في رسالة وارن. طلب وارن وتراهان من ألتمان تقديم معلومات حول كيفية استخدام الخط الساخن الجديد لسلامة الذكاء الاصطناعي للموظفين، وكيف تتابع الشركة التقارير. كما طلبوا “محاسبة مفصلة” لجميع الأوقات التي تجاوزت فيها منتجات OpenAI “بروتوكولات السلامة”، وفي أي ظروف يُسمح للمنتج بتخطي مراجعة السلامة. يسعى المشرعون أيضًا إلى الحصول على معلومات حول سياسة تضارب المصالح في OpenAI. سألوا ألتمان عما إذا كان قد طُلب منه التخلص من أي حيازات خارجية، و”ما هي الحماية المحددة الموجودة لحماية OpenAI من تضارب المصالح المالية؟” لقد طلبوا من ألتمان الرد بحلول الثاني والعشرين من أغسطس. كما لاحظ وارن مدى صراحة ألتمان بشأن مخاوفه بشأن الذكاء الاصطناعي. في العام الماضي، أمام مجلس الشيوخ، قال ألتمان: حذر من أن قدرات الذكاء الاصطناعي قد تكون “إنها تزعزع بشكل كبير السلامة العامة والأمن القومي” وأكدت على استحالة توقع كل إساءة محتملة أو فشل للتكنولوجيا. يبدو أن هذه التحذيرات لاقت صدى لدى المشرعين – في ولاية كاليفورنيا، موطن OpenAI، يدفع السناتور سكوت وينر من أجل مشروع قانون لتنظيم نماذج اللغة الكبيرة، بما في ذلك القيود التي من شأنها أن تجعل الشركات مسؤولة قانونيًا إذا تم استخدام الذكاء الاصطناعي الخاص بها بطرق ضارة.
المصدر
