أطلق إيليا سوتسكيفر، أحد مؤسسي OpenAI، شركة جديدة، Safe Superintelligence Inc. (SSI)، بعد شهر واحد فقط من ترك OpenAI رسميًا.
Sutskever، الذي كان كبير العلماء في OpenAI منذ فترة طويلة، أسس SSI مع شريك Y Combinator السابق دانيال جروس والمهندس السابق في OpenAI دانييل ليفي.
في OpenAI، كان Sutskever جزءًا لا يتجزأ من جهود الشركة لتحسين سلامة الذكاء الاصطناعي مع ظهور أنظمة الذكاء الاصطناعي “فائقة الذكاء”، وهو مجال عمل فيه جنبًا إلى جنب مع جان ليك، الذي شارك في قيادة فريق Superalignment في OpenAI. ومع ذلك، ترك كل من سوتسكيفر ثم لايكي الشركة بشكل كبير في شهر مايو بعد خلاف مع القيادة في OpenAI حول كيفية التعامل مع سلامة الذكاء الاصطناعي. يرأس Leike الآن فريقًا في متجر الذكاء الاصطناعي المنافس Anthropic.
لقد سلط Sutskever الضوء على الجوانب الشائكة لسلامة الذكاء الاصطناعي منذ فترة طويلة. في منشور مدونة نُشر في عام 2023، توقع سوتسكيفر، الذي كتب مع لايكي، أن الذكاء الاصطناعي الذي يتمتع بذكاء يفوق ذكاء البشر يمكن أن يصل في غضون عقد من الزمن – وأنه عندما يحدث ذلك، فلن يكون بالضرورة خيرًا، مما يستلزم البحث في طرق للتحكم والسيطرة. تقييده.
من الواضح أنه ملتزم أكثر من أي وقت مضى بالقضية اليوم. بعد ظهر الأربعاء، نُشرت تغريدة تعلن عن تأسيس شركة Sutskever الجديدة تنص على ما يلي: “SSI هي مهمتنا، واسمنا، وخريطة طريق منتجاتنا بالكامل، لأنها محور تركيزنا الوحيد. إن فريقنا والمستثمرين ونموذج الأعمال لدينا جميعًا متوافقون لتحقيق مباحث أمن الدولة. نحن نتعامل مع السلامة والقدرات جنبًا إلى جنب، باعتبارها مشكلات تقنية يجب حلها من خلال الهندسة الثورية والاكتشافات العلمية.
“نحن نخطط لتعزيز القدرات في أسرع وقت ممكن مع التأكد من أن سلامتنا تظل دائمًا في المقدمة. بهذه الطريقة، يمكننا التوسع بسلام. ويعني تركيزنا الفردي عدم تشتيت الانتباه عن طريق النفقات الإدارية العامة أو دورات المنتج، ويعني نموذج أعمالنا أن السلامة والأمن والتقدم كلها معزولة عن الضغوط التجارية قصيرة المدى.
تحدث سوتسكيفر مع بلومبرج عن الشركة الجديدة بمزيد من التفصيل، رغم أنه رفض مناقشة وضع تمويلها أو تقييمها.
الأمر الأكثر وضوحًا هو أنه على عكس OpenAI – التي تم إطلاقها في الأصل كمنظمة غير ربحية في عام 2015، ثم أعادت هيكلة نفسها عندما أصبحت المبالغ الهائلة من الأموال اللازمة لقدراتها الحاسوبية أكثر وضوحًا – تم تصميم SSI من الألف إلى الياء كمؤسسة هادفة للربح. كيان. إذا حكمنا من خلال الاهتمام بالذكاء الاصطناعي ومؤهلات الفريق على وجه التحديد، فقد يغرق في رأس المال قريبًا جدًا أيضًا. يقول جروس لبلومبرج: “من بين جميع المشاكل التي نواجهها، فإن جمع رأس المال لن يكون واحدا منها”.
لدى SSI مكاتب في بالو ألتو وتل أبيب، حيث تقوم حاليًا بتوظيف المواهب التقنية.
