Илья Суцкевер запустил новую лабораторию ИИ: фокус на безопасности

Илья Суцкевер, известный исследователь ИИ и бывший главный разработчик OpenAI, объявил о запуске новой исследовательской фирмы Safe Superintelligence Inc. (SSI). Вместе с Дэниелом Гроссом, бывшим ведущим специалистом по ИИ в Apple, и Дэниелом Леви, ранее работавшим в OpenAI, Суцкевер намерен сосредоточиться исключительно на разработке безопасного суперинтеллекта. Основная цель компании — продвижение безопасности ИИ и его способностей.

"Мы будем стремиться к созданию безопасного суперинтеллекта, следуя единой цели и фокусируясь на одном продукте," — заявила компания в своем твиттере. "Мы добьемся этого благодаря революционным прорывам, произведенным небольшой командой."

Разрыв с OpenAI: причины и последствия

Уход Суцкевера из OpenAI в прошлом году была вызвана внутренними напряжениями, связанными с тем, что безопасность, по его мнению, отступила на второй план перед коммерческими интересами. С созданием SSI он стремится избежать отвлекающих факторов, таких как управленческие вопросы и продуктовые циклы, которые часто возникают в крупных компаниях.

"Наша бизнес-модель подразумевает, что безопасность, защищенность и прогресс будут изолированы от краткосрочного коммерческого давления," — говорится в официальном заявлении на сайте SSI. "Таким образом, мы сможем развиваться в спокойной обстановке."

Исследования без коммерческого давления

SSI будет исключительно исследовательской организацией, в отличие от OpenAI, который занимается коммерциализацией своих моделей ИИ. Единственный продукт SSI — безопасный суперинтеллект. По словам Суцкевера, безопасность в данном контексте понимается как "ядерная безопасность", а не "доверие и безопасность".

Цель компании — создание ИИ, который не причинит вреда человечеству и будет действовать на основе ценностей, таких как свобода и демократия. "Безопасный суперинтеллект должен обладать свойством не причинять вред человечеству в больших масштабах," — пояснил Сутскевер в интервью Bloomberg.

Критика в адрес OpenAI

После ухода ключевых членов команды по безопасности OpenAI, компания приняла решение распустить свою команду по суперальнменту, ответственную за долгосрочную безопасность ИИ. Это решение вызвало волну критики, особенно со стороны бывших сотрудников. Леопольд Ашенбреннер, бывший исследователь безопасности в OpenAI, назвал практики безопасности компании "чрезвычайно недостаточными". Он основал инвестиционную фирму, сосредоточенную на развитии ИИ, вместе с Патриком Коллисоном, Джоном Коллисоном, Натаниэлем Фридманом и Дэниелом Гроссом.

Перспективы и задачи

SSI будет иметь штаб-квартиры в США и Израиле и уже начала набор сотрудников. "Мы предлагаем возможность заниматься делом всей жизни и помочь решить самую важную техническую задачу нашего времени," — заявила компания в твиттере.

В то время как OpenAI продолжает сталкиваться с обвинениями в приоритизации прибыли над безопасностью, запуск SSI демонстрирует стремление Суцкевера и его команды к созданию безопасного и ответственного ИИ. В этом контексте усилия SSI могут стать важным шагом на пути к созданию безопасного суперинтеллекта, который будет служить интересам человечества.

Запуск Safe Superintelligence Inc. под руководством Ильи Суцкевера знаменует собой важный шаг в направлении безопасного развития ИИ. Сосредоточив все усилия на одной цели и освободившись от коммерческого давления, SSI имеет потенциал для достижения значительных прорывов в области безопасного суперинтеллекта, что, в свою очередь, может кардинально изменить будущее ИИ и его влияние на общество.