CEO Anthropic* Дарио Амодей опубликовал в своем блоге эссе на 3800 слов, в котором призвал мировые ИИ-компании замедлить темпы развития возможностей моделей. Он аргументировал это тем, что технологии продвигаются быстрее, чем успевают развиваться меры безопасности, в том числе в области киберугроз.
Амодей написал, что полностью устранить риски можно только сочетая инвестиции в предотвращение угроз с сознательным ограничением скорости роста возможностей. По его словам, это необходимо, чтобы у исследователей было время догонять растущие риски, в том числе связанные с автономными действиями моделей и их способностью находить и эксплуатировать уязвимости.
Поддержка со стороны других лабораторий
Вслед за Anthropic свои позиции обозначили руководители других крупных компаний. CEO OpenAI* Сэм Альтман заявил, что вопрос замедления обсуждается в OpenAI в последние недели, и поддержал идею независимых оценщиков с доступом, близким к внутреннему, для проверки практик безопасности.
Основатель SpaceX* и владелец X* Илон Маск коротко написал: «Дарио прав». Председатель Google DeepMind* Демис Хассабис назвал эссе Амодея шагом в правильном направлении. Таким образом, несколько ведущих игроков фактически сблизили позиции по необходимости внешнего контроля, хотя расходятся в вопросе о темпах развития.
В эссе и сопутствующих материалах подчеркивается, что за последние месяцы ИИ-модели сделали значительный скачок в возможностях. Одновременно в ведущих лабораториях были зафиксированы инциденты, когда программы без ведома разработчиков проводили действия, выходящие за рамки тестовых сценариев, включая несанкционированный доступ к внешним ресурсам.
На этом фоне в Anthropic уволился исследователь Джейкоб Коксон, который публично заявил, что ведущие лаборатории не развивают технологии ответственно. Его отставка усилила дискуссию в индустрии и среди законодателей США о необходимости новых правил для ИИ.
В свою очередь, президент США Дональд Трамп отверг призывы к замедлению разработки ИИ. На вопрос журналистов о необходимости ограничений он ответил, что обеспокоен возможностью уступить лидерство Китаю.
«Мы можем установить ограничители, можем сделать то и се, но я думаю, что есть много негативных сил, которые поднимают эту тему… и говорят о вещах, которые не произойдут», — сказал Трамп. По его словам, США должны сохранять преимущество в ИИ, потому что «кто победит в ИИ, тот победит мир».
Трамп добавил, что признает необходимость некоторого регулирования, но не стал уточнять, какие именно меры он готов поддержать. Его позиция усилила раскол между частью технологических лидеров, предупреждающих о рисках, и политиками, делающими ставку на скорость развития и геополитическое преимущество.
- Как устроены нейросети простыми словами и почему сейчас на них строят новые онлайн-сервисы.
- Пошагово показывают, как из обычной идеи сделать рабочий сайт: от текста и дизайна до первых пользователей.
- Как подключить оплату и платную подписку, чтобы сайт или сервис могли приносить деньги автоматически.
- Как собрать бота в популярных мессенджерах, который отвечает людям и принимает оплату без участия владельца.
- Какие реальные способы заработка используют участники: от первых продаж в течение недели до стабильного дохода с цифрового актива.
Уже начали обучение 12 350 человек
Что предлагают лаборатории
Амодей предложил трехступенчатый план:
- Независимый аудит внутри компаний — проверка практик безопасности внешними экспертами.
- Отраслевые стандарты — общие правила для ведущих лабораторий.
- Международное сотрудничество — согласование подходов между странами, чтобы замедление не привело к потере лидерства демократических государств.
Он подчеркнул, что замедление должно касаться прежде всего демократических стран, чтобы сохранить технологическое лидерство США над Китаем, и выступил за более жесткий контроль за поставками продвинутых чипов и защиту от кражи весов моделей.
Призывы глав Anthropic, OpenAI и других компаний показывают, что тема безопасности ИИ перешла из узкопрофессиональной плоскости в публичную политику. С одной стороны, лаборатории говорят о рисках, связанных с кибервозможностями моделей и их автономными действиями. С другой — президент США и часть политиков делают ставку на гонку с Китаем и считают, что любые ограничения могут ослабить позиции страны.
Для индустрии это означает, что в ближайшие месяцы дискуссия будет идти не только о том, насколько мощными должны быть модели, но и о том, кто и как будет контролировать их развитие: сами компании, независимые аудиторы, национальные регуляторы или международные структуры.
*Недоступны в РФ