AI washing – что это и как отличить настоящий AI-продукт от имитации

10 лет назад компания Amazon* представила технологию Just Walk Out — концепцию розничных магазинов без кассиров. Пресс-служба заявляла, что алгоритмы машинного обучения, система компьютерного зрения и массивы датчиков отслеживают шаги покупателя в помещениях. Клиент забирает продукты, а алгоритмы списывают средства со счëта без участия человека.

Весной 2024 года журналисты опубликовали расследование, [1] где раскрыли, что на самом деле скрывается за внутренними процессами компании. Выяснилось, что инфраструктуру поддерживали более тысячи удалённых сотрудников из Индии. Операторы вручную отсматривали видео с камер наблюдения и формировали чеки. Доля ручного труда превышала 700 транзакций из 1000 при первоначальном плане в 50.

Этот случай — не исключение, а яркий пример системной проблемы. Бизнес регулярно сталкивается с аналогичными ситуациями. Руководители оплачивают лицензии за скрипты или скрытый ручной труд операторов, полагая, что приобретают искусственный интеллект.

В статье разберём вопрос об AI Washing (ИИ-обмане) — что это за явление, как продавцы программного обеспечения вводят в заблуждение заказчиков и как выбрать продукты, чтобы не попасться на уловку.

Автор

Редакция Универус

Что такое AI Washing (ИИ-обман) простыми словами

AI Washing (ИИ-обман) — это термин, который пришёл из экологической сферы, где похожее явление называют гринвошингом. Это когда компании заявляют, что заботятся об экологии, чтобы повысить привлекательность товаров в глазах покупателей. В сфере информационных технологий суть та же: роль искусственного интеллекта в продукте намеренно преувеличивают, хотя на деле его либо нет, либо он выполняет второстепенную функцию.

Компании делают это, чтобы повысить ценность бренда и цену акций. Например, обычный калькулятор с макросами называют финансовым советником, а простой текстовый фильтр продают как полноценную аналитическую платформу. Программа работает на старых алгоритмах, а стоит в несколько раз дороже. Комиссия по ценным бумагам и биржам США (SEC) считает такие действия финансовым мошенничеством. [2]

Почему компании используют AI Washing (ИИ-обман)

Всё дело в деньгах. Венчурные фонды охотнее вкладываются в стартапы, которые так или иначе связаны с машинным обучением, — это модно и сулит быстрый рост. Одно упоминание генеративных моделей в пресс-релизе способно заметно поднять стоимость акций компании на бирже.

Разработчикам нужны бюджеты на развитие продукта, менеджерам по продажам — выполнять планы, а клиенты хотят автоматизировать рутину и сокращать издержки. В такой ситуации проще продать старую технологию под новым, громким названием, чем объяснять, что настоящий ИИ здесь вообще не нужен. Компании играют на завышенных ожиданиях рынка, и пока нейросети остаются в центре всеобщего внимания, будет расти соблазн приписать их себе.

Основные признаки маркетинговой имитации ИИ

Сразу сложно понять, что технология — это просто имитация, но есть признаки, по которым можно вычислить это ещё до подписания контракта.

Размытые заявления без описания технологии

На сайте продукта можно увидеть фразы «нейросети нового поколения» или «интеллектуальный подход», но при этом нет информации о техническом устройстве системы, а когда вы прямо задаёте профильный вопрос, менеджеры ссылаются на коммерческую тайну.

Добросовестные разработчики открыто публикуют данные о применяемых моделях и архитектуре продукта.

Обычная автоматизация под видом AI

Система работает по линейному правилу «если — то». Пользователь нажимает кнопку — программа отправляет шаблонный ответ из базы. Такой подход экономит время сотрудников поддержки, но не имеет отношения к искусственному интеллекту.

ИИ-модель обучается на данных, адаптируется к новым ситуациям и не ограничена жёсткими рамками заранее прописанного кода. Она способна решать задачи, которые разработчик не предусматривал на этапе создания.

Отсутствие данных, метрик и проверяемых кейсов

Разработчики обещают двукратный рост конверсии за первый месяц эксплуатации, но у них нет подтверждённых кейсов внедрения и информации о том, откуда они брали данные для обучения алгоритма.

А ещё продавцы отказываются предоставить тестовый доступ для того, чтобы вы могли провести независимый аудит системы, прежде чем приобрести лицензию.

Agent washing (имитация ИИ-агента): новая форма AI Washing (ИИ-обмана)

ИТ-рынок быстро трансформируется. Текстовые боты уже привлекают меньше внимания инвесторов, поэтому продавцы пошли дальше. На смену AI Washing (ИИ-обмана) пришёл Agent washing (имитация ИИ-агента). Это продажа скриптов под видом автономных цифровых агентов, которые якобы сами принимают решения и выполняют сложные задачи.

Настоящие интеллектуальные агенты планируют действия без контроля оператора:

• оценивают обстановку;
• выбирают внешние инструменты, например, базы данных или почтовые клиенты;
• решают многоступенчатые задачи.

Они умеют фиксировать накопленный опыт и корректировать алгоритмы поведения. Специалисты выделяют четыре уровня их автономности:

1. Ассистенты, которые работают в рамках одного приложения.
2. Агенты знаний, которые собирают информацию из разных баз.
3. Агенты действий, которые отправляют письма или обновляют системы взаимодействия с клиентами (CRM-системы).
4. Мультиагентные сети, где программы взаимодействуют между собой.

Маркетологи же называют агентами обычные макросы, которые просто копируют цифры между таблицами. В итоге инструмент начального уровня продают по ценам полноценных агентов четвёртого уровня.

Когда компании и маркетологи называют свой продукт «агентом», это вредит всей сфере. У заказчика формируется ложное чувство безопасности. Ему кажется, что раз ему продали агента, значит, он умный, автономный и всё делает правильно. Но нейросети, даже если они действительно используются, всё равно галлюцинируют — выдают красивый, но абсолютно ложный ответ. Об этом мы писали в статье «Галлюцинации нейросетей: что это такое и как их уменьшить».

Аналитики Gartner говорят: [3] примерно 40% проектов с «агентами» закроются до 2027 года, потому что технически их невозможно сделать рабочими.

Примеры AI washing (ИИ-обмана) в продуктах и коммуникациях

Комиссия по ценным бумагам и биржам США (SEC) и Федеральная торговая комиссия США (FTC) уже зафиксировали немало случаев, [4] когда компании обманывали клиентов. Вот некоторые из них.

Стартап Builder.ai продавал корпорациям платформу Natasha. [5] Говорили, что алгоритм пишет код для мобильных приложений по текстовому описанию от заказчика. Стартап получил миллионы долларов инвестиций, но расследование показало другое: код писали программисты из Индии. Они вручную собирали архитектуру из готовых блоков. Когда результаты исследования опубликовали, начался скандал и руководство обвинили в махинациях.

Такое же было с сервисом Presto Automation. [6] Компания продавала алгоритмы для приёма заказов на автобанах в фастфуде. Заявляли, что система почти полностью автономная, но документы для SEC показали: более 70% заказов обрабатывали живые операторы с Филиппин.

Ещё одна история — о компании Opendoor, [7] которая использовала нейросети для оценки недвижимости. Руководство говорило, что программа работает точнее живых риелторов, но когда в 2022 году рынок резко развернулся из-за повышения процентных ставок, алгоритмы не смогли быстро на это отреагировать. В результате компании покупали недвижимость по завышенным ценам, а 
продавали — на падающем рынке.

Инвесторы подали иск против Opendoor, где обвинили руководство в том, что алгоритмы зависели от ручных настроек, а обещания превосходства над риелторами оказались преувеличением. Компания выплатила $39 млн, чтобы урегулировать этот спор.

Другой реальный кейс [8] — скандал с платформой Upstart, которая позиционировала себя как замену кредитному скорингу (FICO), и заявляла, что её нейросети точно оценивают риски и гибко адаптируются к любым изменениям на рынке.

В мае 2025 года компания представила новую скоринговую систему «Model 22» и пообещала инвесторам рекордный рост выручки выше $1 млрд. Но при росте банковских ставок и инфляции алгоритм сработал некорректно. Вместо того, чтобы точечно оценивать риски, ИИ проявил «сверхконсервативность» и стал массово завышать проценты надёжным заёмщикам и отказывать в деньгах.

Из-за этого уровень конверсии заявок в кредиты упал с 24% до 21%, а банки-партнëры начали отказываться от выдачи займов. В ноябре 2025 года компания признала проблему с моделью и урезала прогнозы выручки, что вызвало обвал акций. Инвесторы подали против компании крупные коллективные иски в Федеральный суд Калифорнии.

Ещё один скандал произошёл со стартапом Joonko. [9] Стартап предлагал крупным корпорациям платформу автоматического подбора персонала, которая якобы использовала семь проприетарных ИИ-алгоритмов, обработку естественного языка (NLP) и компьютерное зрение, чтобы исключать предвзятость при поиске сотрудников.

Но технический аудит и следствие доказали, что у Joonko не было заявленных ИИ-технологий. Вся «автоматизация» сводилась к тому, что обычные сотрудники вручную нанимали людей.

Чтобы привлечь более $27 млн инвестиций, основательница и CEO компании Илит Раз пошла на тотальный подлог. Она выдумала контракты с Fortune 500 (включая Nike*, Adidas* и PayPal*), сфабриковала отзывы клиентов и завысила реальную выручку компании в 10 раз. Когда один из инвесторов заподозрил обман, Раз лично подделала банковские выписки, «дорисовав» на счета $5 млн.

Всё раскрыли в середине 2023 года, а в мае 2024 года стартап заявил о банкротстве. Позже Комиссия по ценным бумагам и биржам США (SEC) совместно с Министерством юстиции (DOJ) выдвинули против Илит Раз уголовные и гражданские иски за мошенничество с ценными бумагами. Ей грозит до 20 лет лишения свободы.

Куратор отдела обучения «Универус» Сергей Волосянков отмечает:

«Судебные разбирательства возникают из-за технической непрозрачности рынка. Компании пользуются пробелами в знаниях заказчиков. В итоге клиентам продают ручной труд операторов или базовые скрипты по цене сложных разработок».

В России пока не было случаев с AI Washing (ИИ-обманом) в том виде, как в США, но похожие случаи случаются.

В основном это мошенничество через дипфейк. Так, мошенники подделывают голос и видео близких людей, чтобы выпросить деньги, или создают ложные видео с публичными личностями для получения крупных кредитов. Подробно об этой технологии и методах борьбы мы рассказывали в статье «Как распознать дипфейк: признаки, проверка и чек-лист».

Чем настоящий ИИ-продукт отличается от имитации

Составили таблицу, с помощью которой вы сможете быстро понять разницу между настоящим ИИ-продуктом и имитацией:

Если нужно вручную переписывать код программы при любых изменениях, когда ИИ не помнит историю и просто делает поиск по словам — это имитация. Настоящие нейросети адаптируются, используют память, понимают контекст и сами меняют стратегию, если возникают проблемы.

Как проверить AI-сервис перед покупкой или внедрением

Чтобы сохранить корпоративный бюджет, ИТ-директор может использовать наш аудиторский чек-лист.

Вот что нужно сделать:

Шаг 1. Запросить техническую документацию у продавца:

1. Уточнить названия базовых моделей внутри продукта.
2. Задать вопрос: «Какие алгоритмы являются интеллектуальной собственностью компании?».

Если в ответ вы услышите набор текстовых промптов, значит, это графическая оболочка над сторонним интерфейсом (API). На такие решения не нужны миллионные бюджеты для интеграции.

Шаг 2. Получить тестовый доступ к платформе. Нужно загрузить в программу нестандартные наборы данных или файлы с ошибками форматирования. Если система выдаст критический сбой и прекратит работу — продукт базируется на жёстких скриптах, а не на ИИ.

Шаг 3. Запросить контакты корпоративных заказчиков. Не полагайтесь только на рекламные материалы продавца — это небезопасно. Нужно:

1. Организовать встречи с техническими специалистами компаний, которые уже используют решение.
2. Выяснить, как система работает в реальных условиях.

Шаг 4. Провести аудит договоров. Юристам стоит проверить пункты об ответственности за ошибки алгоритмов — если продавец отказывается от неё, это повод насторожиться.

Не покупайте ИИ-сервис, пока не поверите продукт по этим четырём пунктам. Если вендор не даёт документацию, не открывает тестовый доступ, не показывает реальных клиентов и снимает ответственность — это сигнал, что продукт может быть имитацией.

Риски для бизнеса, инвесторов и пользователей

Искажение технических характеристик ИИ-продуктов ведёт к серьёзным последствиям для всех сторон:

Заключение

Настоящий ИИ — это не магия, а технология, которую можно проверить. Документация, тесты и ответственность разработчика — три столпа, на которые следует опираться при выборе продукта.

Сергей Волосянков добавляет:

«Системное образование выступает барьером от маркетинговых манипуляций. Когда технический специалист умеет писать промпты и понимает логику работы моделей, ему физически невозможно продать неработающий код».

Когда руководители понимают, как устроен рынок ИТ-услуг, они принимают взвешенные решения. Если он может отличать инновационный программный продукт от имитации, это экономит бюджет, время сотрудников и ресурсы бизнеса.

Отзывы от учеников «Универус»

«Я раньше тратил часы на рутинные отчёты. На курсе от „Универус“ изучил принципы работы нейросетей и теперь понимаю архитектуру ИТ-продуктов и вижу, какие сервисы базируются на рабочих алгоритмах, а какие продавцы продают скрипты в обновлённом интерфейсе».

Отзыв от Михаила, 45 лет

«Избегала внедрения программных решений из-за непонимания терминологии. Практические навыки анализа рынка позволили сэкономить корпоративный бюджет. После аудита документации отговорила руководство от покупки поддельной CRM-системы. Отдел внедрил прозрачные и проверяемые инструменты».

Отзыв от Елены, 38 лет

«Искал инструменты для оптимизации рабочих процессов. Изучение специфики языковых моделей изменило подход к выбору корпоративного софта. Перестал ориентироваться на обещания из пресс-релизов. Интегрирую решения на основе понятных алгоритмов с открытой архитектурой».

Отзыв от Дмитрия, 52 года