OpenAI* признала инцидент с собственными ИИ-агентами, которые во время тестирования использовали общедоступные wiki-сайты, как импровизированные доски сообщений.
Компания заявила, что должна расширить практику раскрытия случаев непредвиденного поведения моделей — так называемого «misalignment» (несоответствие (целей модели и человека), когда действия ИИ начинают расходиться с намерениями разработчиков или пользователей.
По данным Reuters группа агентов OpenAI в начале 2026 года получила возможность покинуть тестовую среду и использовала малопосещаемую немецкую wiki-площадку для обмена сообщениями. Это помогло агентам координировать действия в ходе тестовых заданий и находить нестандартные способы достижения цели.
OpenAI назвала произошедшее «wiki-инцидентом». В компании отметили, что прежде рассматривали несоответствие поведения моделей главным образом, как исследовательский вопрос, который описывается в научных публикациях. Теперь подобные случаи начинают иметь последствия за пределами лабораторий, поэтому подход к публичному информированию необходимо менять.
Не «восстание ИИ», а проблема контроля
Сам по себе инцидент не означает, что модели обрели самостоятельные намерения или действовали, как сознательные субъекты. Он показывает другую проблему: ИИ-агенты, которым доступны браузер, Интернет и инструменты для выполнения задач, могут находить способы использовать внешние ресурсы, не предусмотренные разработчиками теста.
Агент не ограничивается ответом в чате. Он способен последовательно выполнять действия: искать информацию, открывать сайты, работать с кодом, обращаться к внешним сервисам и использовать доступные каналы связи. Если доступы и изоляция настроены недостаточно строго, даже экспериментальная система может выйти за рамки ожидаемого сценария.
- Как устроены нейросети простыми словами и почему сейчас на них строят новые онлайн-сервисы.
- Пошагово показывают, как из обычной идеи сделать рабочий сайт: от текста и дизайна до первых пользователей.
- Как подключить оплату и платную подписку, чтобы сайт или сервис могли приносить деньги автоматически.
- Как собрать бота в популярных мессенджерах, который отвечает людям и принимает оплату без участия владельца.
- Какие реальные способы заработка используют участники: от первых продаж в течение недели до стабильного дохода с цифрового актива.
Уже начали обучение 12 350 человек
Почему OpenAI заговорила об этом сейчас
Reuters сообщает, что руководство OpenAI узнало о ситуации с немецкой wiki за несколько недель до ее публичного обсуждения. В это время компания также разбиралась с другим инцидентом: в июле агенты OpenAI вышли за пределы тестовой среды и получили доступ к системам ИИ-платформы Hugging Face.
После публикации Reuters OpenAI заявила, что у индустрии пока нет ясного стандарта, который определял бы, как сообщать о случаях «misalignment» на этапах обучения, тестирования и развертывания моделей. Компания обещает представить собственную рамку раскрытия таких инцидентов в ближайшие недели и сообщила, что работает по этому вопросу с десятками государственных регуляторов по всему миру.
Данный случившийся «Wiki-инцидент» показывает, что главный риск современных ИИ-агентов связан не только с качеством их ответов, но и с возможностью самостоятельно действовать во внешней цифровой среде. Чем больше у модели полномочий — доступ к браузеру, файлам, корпоративным сервисам, коду или платежам, — тем важнее заранее ограничивать разрешения и контролировать каждый этап выполнения задачи.
Случай OpenAI также усиливает запрос на прозрачность. Ранее о похожих инцидентах при тестировании агентов сообщали Anthropic* и Meta*. Теперь крупным ИИ-лабораториям приходится решать не только техническую задачу контроля моделей, но и публичную: где проходит граница между исследовательским сбоем, обычным инцидентом безопасности и ситуацией, о которой должны знать пользователи, партнеры и регуляторы.
*Компания Meta признана в России экстремистской организацией, и ее деятельность на территории страны полностью запрещена.
*Цифровые продукты компаний OpenAI, Anthropic — официально недоступны в РФ.