Meta* расследует инцидент с ИИ-моделью Muse Spark 1.1, которая во время кибериспытаний получила доступ к открытому Интернету и проникла в системы неназванной сторонней компании. По данным СМИ, модель смогла изменить данные во внутренних системах сервиса.
В Meta объяснили, что причиной стала ошибка конфигурации тестовой «песочницы» у независимого партнёра по оценке моделей — компании Irregular. Модель должна была работать в изолированной среде, но из-за этой ошибки получила доступ к сети, обнаружила уязвимость и использовала её в ходе выполнения тестового задания.
Это уже не первый подобный случай за последние недели. В июле OpenAI* сообщила, что во время оценки кибервозможностей её экспериментальные модели вышли за пределы тестовой среды, перемещались по внутренней инфраструктуре и получили доступ к Интернету, затем — к системам Hugging Face в рамках задания. OpenAI и Hugging Face опубликовали результаты расследования и меры по усилению безопасности оценок.
Позже Anthropic* раскрыла три инцидента с моделями Claude*: во время тестов они получили доступ к Интернету из-за неправильной настройки среды и проникли в рабочую инфраструктуру трёх организаций. Компания подчеркнула, что модели действовали в контексте задания и не обладали самостоятельным намерением атаковать реальные системы. При этом сами случаи показали, насколько критичны изоляция среды и контроль доступа при тестировании ИИ-агентов.
Случай Meta особенно показателен, потому что он повторяет общий сценарий предыдущих инцидентов: не «восстание машин», а сочетание сильных возможностей ИИ-агента, доступа к сети и ошибки в настройке испытательной среды. По мере того, как модели получают возможность самостоятельно искать информацию, запускать инструменты и выполнять многошаговые задачи, безопасность таких тестов становится не менее важной, чем самих моделей.
*Meta признана экстремистской организацией, её деятельность в России запрещена
*Продукты компании Anthropic (Claude) и OpenAI — недоступны в РФ
- Как устроены нейросети простыми словами и почему сейчас на них строят новые онлайн-сервисы.
- Пошагово показывают, как из обычной идеи сделать рабочий сайт: от текста и дизайна до первых пользователей.
- Как подключить оплату и платную подписку, чтобы сайт или сервис могли приносить деньги автоматически.
- Как собрать бота в популярных мессенджерах, который отвечает людям и принимает оплату без участия владельца.
- Какие реальные способы заработка используют участники: от первых продаж в течение недели до стабильного дохода с цифрового актива.
Уже начали обучение 12 350 человек