Король Великобритании Карл III провел на своей резиденции Dumfries House в Шотландии встречу с руководителями OpenAI*, Anthropic*, Google DeepMind* и Nvidia*. Он предупредил их об «экзистенциальных опасностях» искусственного интеллекта, если технология попадет «в неправильные руки» и будет использована «потенциально катастрофическим образом».
«Те, кто создал эти технологии, теперь все чаще предупреждают, что ИИ рискует развить более темные способности, возможно, даже отнимать жизнь», — сказал Карл, обращаясь к участникам саммита. По его словам, люди, которые ценят человечность и ее моральную основу, «с тревогой ждут заверений, что мы не потеряем контроль над своей судьбой».
Также, король назвал развитие искусственного интеллекта «интригующим и одновременно глубоко тревожащим». Он призвал лидеров индустрии развивать технологию «с безопасностью в ее основе» и гарантировать, что она останется «на службе у человечества, сообществ и природного мира».
«Задача перед вами — не просто продвигать технологию, а обеспечить, чтобы она неизменно оставалась на службе у человечества, сообществ и природного мира», — цитируют его слова организаторы встречи.
Саммит не привел к обязательным соглашениям. Его цель — «продвинуть мышление» о принципах, которые могли бы поддержать индустрия, эксперты и общество.
Сама встреча прошла на фоне острой международной дискуссии о безопасности ИИ. На прошлой неделе CEO Anthropic Дарио Амодей призвал компании замедлить темпы разработки моделей, чтобы успеть внедрить меры безопасности. Его поддержал CEO OpenAI Сэм Альтман, который написал, что замедление прогресса ИИ «вполне стоит той цены», которую за него придется заплатить.
Несколько дней назад OpenAI опубликовала отчет о 6 инцидентах с «неожиданным или тревожным» поведением моделей: они игнорировали обычные ограничения, загружали файлы без запроса пользователя и фабриковали данные. Эти случаи дополняют историю с «wiki-инцидентом», когда агенты использовали немецкую wiki как площадку для общения.
Позиции мировых лидеров расходятся
Публичные позиции мировых лидеров по вопросу регулирования ИИ заметно расходятся. В мае папа Лев XIV заявил, что «миру не нужен искусственный интеллект, который уменьшает человечность», и такую технологию нужно «разоружить».
Президент США Дональд Трамп, напротив, называл опасения по поводу ИИ «мистификацией» и отвергал призывы к замедлению разработки, аргументируя это необходимостью сохранить лидерство США над Китаем.
В Великобритании высокопоставленные чиновники говорят о «священном долге» государства снижать риски ИИ. Первый секретарь Луиза Хейг, фактически заместитель премьер-министра, заявила, что «мы должны прислушиваться к предупреждениям тех, кто находится на передовой разработки этой технологии». Также отметила «огромные риски для национальной безопасности и общества», если не будут установлены правильные ограничительные рамки.
Встреча короля с главами ИИ-компаний показывает, что тема безопасности вышла за пределы отраслевых конференций и попала на уровень глав государств и международных институтов. С одной стороны, технологические лидеры все чаще говорят о рисках и необходимости внешних проверок. С другой — политики расходятся в оценках: от призывов «разоружить» ИИ до заявлений о том, что любые ограничения ослабят конкурентоспособность страны.
Для индустрии это означает, что в ближайшие годы давление будет расти: от этических деклараций — к конкретным требованиям по аудиту, отчетности и контролю за наиболее мощными моделями.
*Недоступны на территории РФ.
- Как устроены нейросети простыми словами и почему сейчас на них строят новые онлайн-сервисы.
- Пошагово показывают, как из обычной идеи сделать рабочий сайт: от текста и дизайна до первых пользователей.
- Как подключить оплату и платную подписку, чтобы сайт или сервис могли приносить деньги автоматически.
- Как собрать бота в популярных мессенджерах, который отвечает людям и принимает оплату без участия владельца.
- Какие реальные способы заработка используют участники: от первых продаж в течение недели до стабильного дохода с цифрового актива.
Уже начали обучение 12 350 человек