Илья Суцкевер запустил новую лабораторию ИИ: фокус на безопасности

Илья Суцкевер запустил новую лабораторию ИИ: фокус на безопасности

3 недели назад Евгений Тюликов
И
Искусственный интеллект (ИИ)

Популярное

Лучшее за неделю

Илья Суцкевер, известный исследователь ИИ и бывший главный разработчик OpenAI, объявил о запуске новой исследовательской фирмы Safe Superintelligence Inc. (SSI). Вместе с Дэниелом Гроссом, бывшим ведущим специалистом по ИИ в Apple, и Дэниелом Леви, ранее работавшим в OpenAI, Суцкевер намерен сосредоточиться исключительно на разработке безопасного суперинтеллекта. Основная цель компании — продвижение безопасности ИИ и его способностей.

"Мы будем стремиться к созданию безопасного суперинтеллекта, следуя единой цели и фокусируясь на одном продукте," — заявила компания в своем твиттере. "Мы добьемся этого благодаря революционным прорывам, произведенным небольшой командой."

Разрыв с OpenAI: причины и последствия

Уход Суцкевера из OpenAI в прошлом году была вызвана внутренними напряжениями, связанными с тем, что безопасность, по его мнению, отступила на второй план перед коммерческими интересами. С созданием SSI он стремится избежать отвлекающих факторов, таких как управленческие вопросы и продуктовые циклы, которые часто возникают в крупных компаниях.

"Наша бизнес-модель подразумевает, что безопасность, защищенность и прогресс будут изолированы от краткосрочного коммерческого давления," — говорится в официальном заявлении на сайте SSI. "Таким образом, мы сможем развиваться в спокойной обстановке."

Исследования без коммерческого давления

SSI будет исключительно исследовательской организацией, в отличие от OpenAI, который занимается коммерциализацией своих моделей ИИ. Единственный продукт SSI — безопасный суперинтеллект. По словам Суцкевера, безопасность в данном контексте понимается как "ядерная безопасность", а не "доверие и безопасность".

Цель компании — создание ИИ, который не причинит вреда человечеству и будет действовать на основе ценностей, таких как свобода и демократия. "Безопасный суперинтеллект должен обладать свойством не причинять вред человечеству в больших масштабах," — пояснил Сутскевер в интервью Bloomberg.

ADS

Зарегистрируйтесь на KuCoin и получите бонус 700 USDT.
Получите до 500 USDT в виде денежных вознаграждений и 200 USDT в виде торговых купонов! Получить награду.

Критика в адрес OpenAI

После ухода ключевых членов команды по безопасности OpenAI, компания приняла решение распустить свою команду по суперальнменту, ответственную за долгосрочную безопасность ИИ. Это решение вызвало волну критики, особенно со стороны бывших сотрудников. Леопольд Ашенбреннер, бывший исследователь безопасности в OpenAI, назвал практики безопасности компании "чрезвычайно недостаточными". Он основал инвестиционную фирму, сосредоточенную на развитии ИИ, вместе с Патриком Коллисоном, Джоном Коллисоном, Натаниэлем Фридманом и Дэниелом Гроссом.

Перспективы и задачи

SSI будет иметь штаб-квартиры в США и Израиле и уже начала набор сотрудников. "Мы предлагаем возможность заниматься делом всей жизни и помочь решить самую важную техническую задачу нашего времени," — заявила компания в твиттере.

В то время как OpenAI продолжает сталкиваться с обвинениями в приоритизации прибыли над безопасностью, запуск SSI демонстрирует стремление Суцкевера и его команды к созданию безопасного и ответственного ИИ. В этом контексте усилия SSI могут стать важным шагом на пути к созданию безопасного суперинтеллекта, который будет служить интересам человечества.

Запуск Safe Superintelligence Inc. под руководством Ильи Суцкевера знаменует собой важный шаг в направлении безопасного развития ИИ. Сосредоточив все усилия на одной цели и освободившись от коммерческого давления, SSI имеет потенциал для достижения значительных прорывов в области безопасного суперинтеллекта, что, в свою очередь, может кардинально изменить будущее ИИ и его влияние на общество.

Дата публикации: 20.06.2024

Подписывайтесь на VueDeFi в социальных сетях

Присоединяйтесь к VueDeFi на KuCoin и получайте эксклюзивные награды. Присоединяйтесь к VueDeFi на KuCoin и получайте эксклюзивные награды.

Дисклеймер

Информация, представленная на этом вебсайте, не является инвестиционным, финансовым, торговым или любым другим советом, и читатель не должен рассматривать любое содержимое сайта как таковое.

Всем пользователям настоятельно рекомендуется провести собственное исследование или обратиться к независимому и квалифицированному финансовому консультанту. Читатель самостоятельно несет полную ответственность за любые действия, совершаемые им на основании информации, полученной на нашем вебсайте.

Подробнее

Читайте также

Binance оштрафована на $2,25 млн индийским подразделением финансовой полиции

Binance оштрафована на $2,25 млн индийским подразделением финансовой полиции

Индийская Финансовая полиция оштрафовала криптовалютную биржу Binance на 2,25 миллиона долларов за нарушения правил по борьбе с отмыванием денег. Штраф был наложен после расследования, выявившего многочисленные несоблюдения Закона о предотвращении отмывания денег (PMLA) 2002 года.

Kraken обвиняет исследователя безопасности в вымогательстве после обнаружения бага

Kraken обвиняет исследователя безопасности в вымогательстве после обнаружения бага

Криптовалютная биржа Kraken оказалась в центре скандала после заявления о вымогательстве со стороны исследователя безопасности, который обнаружил критический баг в системе.