Счета за токены в австралийских проектах ИИ текут кровью. Как это остановить

Спросите любого финансового директора в Австралии или Новой Зеландии, как отработал их бюджет на ИИ за последний год, и, скорее всего, услышите одну и ту же историю: расходы превысили прогнозы задолго до того, как кто‑то смог объяснить причину. Новое исследование Elastic показало, что каждая третья австралийская компания превысила свой бюджет на ИИ в прошлом финансовом году, а 32% компаний после этого приостановили, отменили или сократили внедрение ИИ, поскольку затраты не удавалось обосновать.

В разговорах с клиентами и советами директоров по всему региону я слышу похожие истории почти каждую неделю. Данные по миру рисуют схожую картину. Аналитики Goldman Sachs прогнозируют двадцатикратный с лишним рост потребления токенов к мере распространения ИИ‑агентов — всплеск спроса, достаточно сильный, чтобы ещё более обострить и без того напряжённую ситуацию с поставками чипов в ближайшие годы. Исследование Deloitte по токеномике ИИ показало, что половина руководителей теперь тратит на ИИ от 21% до 50% своих бюджетов на цифровую трансформацию; в одной из описанных историй в секторе здравоохранения использование токенов росло на 8–10% в месяц, добавляя более шести миллионов долларов непредвиденных годовых расходов ещё до того, как финансовые службы получили видимость причин.

Также хватает рассказов о том, как инженеры искусственно раздувают внутренние рейтинги, перенаправляя тривиальные задачи на агентов лишь для увеличения показателей использования. Как говорит Манюэль Хауг, технический директор по работе с рынком в Celonis: «После лет бесконтрольных экспериментов с ИИ организации вступают в эпоху экономии токенов. Руководители перестают спрашивать, что может ИИ, и начинают требовать реальных результатов от своих расходов на вычисления. Без строгого управления обобщённые передовые модели вынуждены гадать, сжигая раздутые подсказки и выполняя молчаливые повторы».

Именно это гадание и является главным драйвером расходов, и я наблюдал эту проблему на нашем событии PI Day в Мельбурне. Патрик Томпсон, наш глобальный старший вице‑президент по трансформации клиентов, прямо сказал: компании, которые много инвестировали в уровни данных и ИИ‑агентов, часто расходуют огромные объёмы токенов, пытаясь построить контекстную модель с нуля — модель, которая устаревает в тот же момент, когда меняются основные системы учёта. «Люди осознают: у меня есть слой данных, у меня есть агенты, но у меня нет контекста, нет модели знаний, никакого интеллекта вокруг этих данных. Это просто строки и столбцы», — отметил он.

Его мысль: такую контекстную модель вовсе не обязательно создавать вручную. Если она генерируется автоматически на основе систем, которыми организации уже пользуются, бюджет токенов, предназначенный на её создание, можно направить на агентный ИИ, который действительно приносит отдачу. Это сдвиг, который я рекомендую каждому руководителю, столкнувшемуся с перерасходом средств на ИИ: прекратите относиться к каждой задаче так, будто для неё нужен передовой модельный ресурс, и начните рассматривать операционный контекст как инфраструктуру.

Когда ИИ‑агент понимает, как работа действительно проходит в вашей компании — а не обобщённое представление в интернете о том, как устроена цепочка поставок или процесс обработки счёта — он может отправлять рутинные шаги в более компактные, дешёвые и быстрые модели, а сложное и дорогое рассуждение оставлять только для задач, которые этого действительно требуют. Ещё лучше: если агент может обращаться к заранее подготовленному ответу — сроку выполнения в производстве, проценту исключений, частоте вариантов процесса — вместо того чтобы перерывать сырые данные и гадать, вы сокращаете как потраченные токены, так и повторные обращения, вызванные неправильной догадкой. Каждое сэкономленное действие — это экономия средств и снижение риска ошибки.

Это разница между навигатором, который объезжает пробки, и тем, кто просто едет, пока не наткнётся на пункт назначения: тот же объём топлива, гораздо меньше потерь. Контекстная модель Celonis построена именно на этой идее. Она использует процессные данные, извлечённые напрямую из систем ERP, CRM и ITSM, а также с уровня рабочего стола, накладывает бизнес‑правила, эталоны и ключевые показатели эффективности, которые определяют, что значит «хорошо» для конкретной организации, и применяет интеллект процессов и решений, чтобы объяснять, почему возникают узкие места и что с этим делать.

Поскольку каждое взаимодействие агента и каждое ручное вмешательство человека возвращаются в модель, она продолжает накапливаться: каждый новый развернутый агент дешевле в эксплуатации и точнее предыдущего, потому что наследует всё, чему научились предыдущие. Для организаций, которые испытывают давление при оправдании расходов на ИИ перед советом директоров, это реальная возможность. Ответ на неконтролируемые расходы на токены никогда не заключался в том, чтобы тратить меньше на ИИ; речь о том, чтобы тратить правильно, опираясь на операционную реальность бизнеса, а не на лучшие догадки передовой модели. Сделайте это — и ИИ перестанет быть бесконечным экспериментом и превратится в то, чего финансовые директора требовали всю дорогу: бюджетируемую статью расходов, против которой можно планировать.