يتنبأ هذا المتوقع من الذكاء الاصطناعى العواصف المقبلة
العام هو 2027. أصبحت أنظمة الذكاء الاصطناعي القوية أكثر ذكاءً من البشر ، وهي تعزز الفوضى على النظام العالمي. لقد سرق الجواسيس الصينيون أسرار الذكاء الاصطناعى في أمريكا ، والبيت الأبيض يهرع للانتقام. داخل مختبر منظمة العفو الدولية الرائدة ، يشعر المهندسون بالفزع لاكتشاف أن نماذجهم بدأت في خداعهم ، مما يثير احتمال أن يذهبون إلى المارقة. هذه ليست مشاهد من سيناريو علمي. إنها سيناريوهات تصورها منظمة غير ربحية في بيركلي ، كاليفورنيا ، تسمى مشروع العواصف الآجلة للنيابة ، والذي قضى العام الماضي في محاولة للتنبؤ بما سيبدو عليه العالم خلال السنوات القليلة المقبلة ، حيث يتم تطوير أنظمة الذكاء الاصطناعى المتزايد بشكل متزايد. غادر الشركة العام الماضي بسبب مخاوفه من أنه كان يتصرف بتهور. في حين كان في Openai ، حيث كان في فريق الحوكمة ، كتب السيد Kokotajlo تقارير داخلية مفصلة حول كيفية قيام السباق بالذكاء العام الاصطناعي ، أو Agi-مصطلح غامض لذكاء الآلة على مستوى الإنسان-قد يتكشف. بعد مغادرته ، تعاون مع Eli Lifland ، وهو باحث من الذكاء الاصطناعى لديه أ سجل حافل للتنبؤ بدقة الأحداث العالمية. لقد حصلوا على العمل في محاولة للتنبؤ بالموجة التالية من الذكاء الاصطناعي. النتيجة هي “AI 2027” ، تقرير وموقع ويب صدر هذا الأسبوع يصف ذلك ، في سيناريو خيالي مفصل ، ما الذي يمكن أن يحدث إذا تجاوزت أنظمة الذكاء الاصطناعى الذكاء على مستوى الإنسان-والتي يتوقع المؤلفون أن تحدث في السنتين أو الثلاث سنوات المقبلة. تم إمساك سان فرانسيسكو من قبل AI Froffor ، وأصبح المشهد التقني في منطقة الخليج مجموعة من القبائل المتحاربة والطوائف الشظايا ، كل واحد مقتنع بأنه يعرف كيف ستتكشف المستقبل. لقد اتخذت بعض التنبؤات من الذكاء الاصطناعي شكل بيان ، مثل “آلات النعمة المحبة، “مقال 14000 كلمة كتبها العام الماضي من قبل داريو أمودي ، الرئيس التنفيذي للأنثروبولوجيا ، أو”الوعي الظرفي، “تقرير صادر عن الباحث السابق في Openai Leopold Aschenbrenner الذي كان يقرأ على نطاق واسع في دوائر السياسة. صمم الأشخاص في مشروع AI Futures لمشروعهم كسيناريو تنبؤ – في الأساس ، وهو جزء من الخيال العلمي الذي تم بحثه بشكل صارم والذي يستخدمون ألياف أليفة ، حيث تم تكوينه في ألياف ألياف أليفة. – للمساعدة في تحويل توقعاتهم إلى سرد. قام المختبر في سياتل ، بمراجعة تقرير “AI 2027” وقال إنه لم يكن معجبًا. “أنا جميعًا من أجل التوقعات والتوقعات ، ولكن لا يبدو أن هذا التوقعات ترتكز على أدلة علمية ، أو حقيقة أن الأمور تتطور في الذكاء الاصطناعي” ، لا يبدو أن هناك شك في أن بعض آراء المجموعة متطورة. (أخبرني السيد كوكوتولو ، على سبيل المثال ، العام الماضي أنه يعتقد أن هناك أ 70 في المئة فرصة أن الذكاء الاصطناعى سوف يدمران أو يضرون بشكل كارثي بشرية.) والسيد كوكوتولو والسيد ليلاند يرتبطان بعلاقات الإيثار الفعالة ، وهي حركة فلسفية أخرى شائعة بين عمال التكنولوجيا الذين قاموا بتحذيرات رهيبة بشأن الذكاء الاصطناعي لسنوات. التخطيط لعالم ما وراء Agi ، وأن العديد من التنبؤات المجنونة التي تم إجراؤها حول الذكاء الاصطناعي في الماضي-مثل الرأي القائل بأن الآلات ستجتاز اختبار Turing ، وهي تجربة فكرية تحدد ما إذا كان يمكن أن يتواصل الجهاز مثل الإنسان- تتحقق. كتب منشور مدونة بعنوان “ما يبدو 2026” ، يحدد وجهة نظره حول كيفية تقدم أنظمة الذكاء الاصطناعى. لقد أثبت عدد من تنبؤاته أنه أمر محدد ، وأصبح مقتنعًا بأن هذا النوع من التنبؤ كان ذا قيمة ، وأنه كان جيدًا في ذلك. لتريني كيف تعمل. Kokotajlo ، الذي كان يرتدي سترة على الطراز العسكري تان ، أمسك علامة وكتب أربع اختصارات على لوحة بيضاء كبيرة: sc> sar> siar> asi. وأوضح أن كل واحد يمثل علامة فارقة في تطوير الذكاء الاصطناعي. بعد ذلك ، بحلول منتصف عام 2017 ، سيكون باحثًا من الذكاء الاصطناعي خارقًا-وكيلًا مستقلاً يمكنه الإشراف على فرق من المبرمجين من الذكاء الاصطناعى واكتشاف اكتشافات جديدة. بعد ذلك ، في أواخر عام 2027 أو في أوائل عام 2028 ، ستصبح باحثًا في الذكاء الاصطناعى الممتاز – وهو ذكاء آلي يعرف أكثر مما نعرفه حول بناء الذكاء الاصطناعي المتقدم ، ويمكنه أتمتة البحث والتطوير الخاص به ، وبناء إصدارات أكثر ذكاءً من نفسها. من هناك ، قال ، إنه قفزة قصيرة إلى الإلغاء الاصطناعي ، أو ASI ، وفي هذه النقطة تكون جميع الرهانات متوقفة. إذا كان كل هذا يبدو خياليًا … حسنًا ، فهذا هو كذلك. لا شيء مثل ما يتوقعه السيد Kokotajlo و Mr. Lifland هو أمر ممكن مع أدوات AI اليوم ، والتي بالكاد يمكن اطلب بوريتو على Doordash دون أن يتعثروا. لكنهم واثقون من أن هذه البقع العمياء ستتقلص بسرعة ، حيث تصبح أنظمة الذكاء الاصطناعى جيدة بما يكفي في الترميز لتسريع أبحاث الذكاء الاصطناعى وتطويرها. يركز تقريرها على OpenBrain ، وهي شركة منظمة العفو الدولية الخيالية التي تبني نظامًا قويًا من الذكاء الاصطناعي المعروف باسم الوكيل -1. (قرروا عدم وضع شركة AI معينة ، بدلاً من ذلك إنشاء مركب من مختبرات AI American الرائدة.) نظرًا لأن Agent-1 يتحسن في الترميز ، فإنها تبدأ في أتمتة الكثير من الأعمال الهندسية في OpenBrain ، مما يسمح للشركة بالتحرك بشكل أسرع ويساعد في بناء وكيل 2 ، وهو باحث أكثر قدرة على الذكاء الاصطناعي. بحلول أواخر عام 2027 ، عندما ينتهي السيناريو ، يقوم الوكيل 4 بإجراء اختراقات بحثية من الذكاء الاصطناعي كل أسبوع ، ويهدد بالذهاب إلى المارقة. سألت السيد كوكوتولو ما يعتقد أنه سيحدث بعد ذلك. هل اعتقد ، على سبيل المثال ، أن الحياة في عام 2030 ستظل معروفة؟ هل ستملأ شوارع بيركلي بالروبوتات البشرية؟ الناس يراسلون صديقاتهم من الذكاء الاصطناعي؟ هل سيحصل أي منا على وظائف؟ لقد حدق من النافذة ، واعترف بأنه لم يكن متأكداً. وقال إنه إذا سارت السنوات القليلة المقبلة على ما يرام وأبقينا في حالة السيطرة على الذكاء الاصطناعي ، فيمكنه أن يتصور مستقبلًا لا تزال فيه حياة معظم الناس كما هي إلى حد كبير ، ولكن عندما تكون “المناطق الاقتصادية الخاصة” القريبة المليئة بمصانع روبوت شديدة الكفاءة ستخرج كل ما نحتاجه. وإذا كانت السنوات القليلة المقبلة لم تسير على ما يرام؟ ” قال بلا مبالاة. “شيء من هذا القبيل”. أحد مخاطر تنبؤات الذكاء الاصطناعى الخاص بك بهذه الطريقة هو أنه إذا لم تكن حذراً ، فإن السيناريوهات المقاسة يمكن أن تتحول إلى تخيلات مروع. آخر هو أنه من خلال محاولة سرد قصة دراماتيكية تجسد انتباه الناس ، فإنك تخاطر بفقد المزيد من النتائج الممل ، مثل السيناريو الذي تتصرف فيه الذكاء الاصطناعى بشكل جيد ولا يسبب الكثير من المتاعب لأي شخص. حتى على الرغم من أنني أتفق مع مؤلفي “AI 2027” ستأتي أنظمة الذكاء الاصطناعى القوية قريبًا، لست مقتنعا بأن المبرمجين من الذكاء الاصطناعى Superhuman سوف يلتقطون تلقائيًا المهارات الأخرى اللازمة لتصوير طريقهم إلى الذكاء العام. وأنا حذرة من التنبؤات التي تفترض أن تقدم الذكاء الاصطناعي سيكون سلسًا وأسيًا ، مع عدم وجود اختناقات أو حواجز الطرق الرئيسية على طول الطريق. لكنني أعتقد أن هذا النوع من التنبؤ يستحق القيام به ، حتى لو كنت لا أوافق على بعض التنبؤات المحددة. إذا كانت الذكاء الاصطناعي القوي قاب قوسين أو أدنى ، فسوف نحتاج جميعًا إلى البدء في تخيل بعض العقود المستقبلية الغريبة للغاية. (tagstotranslate) الذكاء الاصطناعي (T) أبحاث (T) أجهزة الكمبيوتر والإنترنت (T) معهد Allen للذكاء الاصطناعي (T) Astral Codex Ten (T) Openai Labs (T) Kokotajlo (T) Daniel
المصدر
