Официальный представитель генсека ООН Стефан Дюжаррик заявил, что риски, связанные с развитием искусственного интеллекта, «крайне реальны» и требуют немедленного внимания. Он прокомментировал недавние высказывания президента США Дональда Трампа, который назвал сценарии глобальных катастроф от ИИ ложными.
«Исходящие от ИИ риски крайне реальны, они существуют, и с ними нужно разбираться сейчас», — сказал Дюжаррик на брифинге. Его слова прозвучали на фоне эссе главы Anthropic* Дарио Амодея, который предложил координированное замедление разработки передовых моделей, чтобы выиграть «один-два года дополнительного времени» до достижения критических уровней возможностей.
На этом фоне высокопоставленные представители администрации президента США Дональда Трампа провели встречу с руководством Anthropic для обсуждения рисков безопасности, связанных с ИИ. Об этом сообщает Bloomberg со ссылкой на источники.
Встреча показывает, что даже при публичном скепсисе Трампа диалог между властью и ИИ-компаниями продолжается. Трамп ранее допускал возможность некоторых ограничений в сфере ИИ, хотя называл связанные с технологией риски преувеличенными.
От призывов к стандартам
Anthropic*, OpenAI* и Google*, по данным The Information, обсуждают создание совместной организации для разработки отраслевых стандартов безопасности. Это означает переход от общих призывов к замедлению к более конкретным шагам: согласованию правил тестирования, аудита и контроля за наиболее мощными моделями.
Идею Амодея поддержали основатель SpaceX* и владелец X* Илон Маск и CEO OpenAI Сэм Альтман. При этом позиции расходятся в вопросе о темпах развития: Альтман и Маск говорят о необходимости внешних проверок и стандартов, но не призывают к полной паузе в разработке.
События 15–16 сентября показывают, как тема безопасности ИИ переходит из стадии публичных заявлений CEOs в плоскость международных организаций и национальных администраций:
- ООН прямо называет риски ИИ «крайне реальными» и требует действий;
- Администрация США проводит закрытые встречи с ИИ-компаниями, несмотря на риторику президента;
- Крупнейшие лаборатории начинают обсуждать общие стандарты, а не только внутренние меры безопасности.
Для индустрии это означает, что в ближайшие месяцы дискуссия будет идти не только о том, насколько мощными должны быть модели, но и о том, кто и как будет контролировать их развитие: сами компании, независимые аудиторы, национальные регуляторы или международные структуры.
*Цифровые продукты данных компаний официально недоступны в РФ
- Как устроены нейросети простыми словами и почему сейчас на них строят новые онлайн-сервисы.
- Пошагово показывают, как из обычной идеи сделать рабочий сайт: от текста и дизайна до первых пользователей.
- Как подключить оплату и платную подписку, чтобы сайт или сервис могли приносить деньги автоматически.
- Как собрать бота в популярных мессенджерах, который отвечает людям и принимает оплату без участия владельца.
- Какие реальные способы заработка используют участники: от первых продаж в течение недели до стабильного дохода с цифрового актива.
Уже начали обучение 12 350 человек