Boomi: умная инфраструктура ИИ может сократить расходы предприятий до 90%

Компания Boomi заявляет, что более умная инфраструктура для ИИ может сократить расходы предприятий до 90%

Генеральный директор Boomi Стив Лукас предупреждает, что многие компании переплачивают за передовые модели ИИ, задействуя дорогие вероятностные алгоритмы для задач, которые могли бы решаться меньшими моделями, традиционными сервисами или детерминированным ПО куда эффективнее. На прошедшем в Сиднее мероприятии Boomi представила новую концепцию — Agent Control Plane, слой инфраструктуры нейтральный к вендорам и моделям, который призван управлять потреблением ИИ, направлять работу интеллектуально и делать каждый потраченный доллар атрибутируемым. Компания утверждает, что это позволит сократить затраты на ИИ от 50% до 90%.

Проблема «token maxxing»

По словам Лукаса, предприятия всё чаще расходуют платные токены передовых моделей ИИ на задачи, для которых достаточно стандартных сервисов или менее тяжёлых моделей. Термин «token maxxing» описывает неконтролируемое потребление токенов: развертывание множества ассистентов и агентов, передача им больших объёмов контекста и многократные обращения к моделям при попытке выполнить задачу. В некоторых организациях массовое потребление токенов воспринимается как признак продуктивности и прогресса, однако Лукас ставит под сомнение экономику такого подхода: провайдеры моделей взимают плату за токены, а предприятие несёт расходы и риски.

Agent Control Plane: что это и зачем

Представленная Boomi архитектура Agent Control Plane задумывается как прослойка между агентами и моделями, инструментами, данными и транзакционными системами (такими как SAP, Salesforce, Oracle, Workday). Она должна обеспечить единое место для идентификации агентов, управления их правами, мониторинга активности, атрибуции расходов и вмешательства до того, как высокорисковые действия попадут в системы учёта и операций. Ключевая идея — динамически выбирать, куда направлять каждый запрос ИИ: на ведущую модель для сложного рассуждения, на приватную или меньшую модель для ограниченной задачи, на авторитетный сервис для фактического запроса или вовсе на детерминированное ПО для повторяемой транзакции. Цель не в максимизации токенов, а в их эффективности. По словам Лукаса, клиенты хотят инфраструктуру, которая позволит оперировать ИИ при затратах на 50–90% ниже текущих, хотя эта оценка рассматривается компанией как целевое обещание, а не подтверждённый итог клиентских внедрений. Некоторые компоненты, включая расширенные возможности маршрутизации подсказок и принудительного контроля шлюза, ещё находятся в разработке.

Финансы заходят в разговор об ИИ

Boomi подчёркивает, что неконтролируемые расходы на ИИ быстро становятся проблемой уровня правления компаний. По данным опрошенных исследованием практиков, управление расходами на ИИ стало массовой дисциплиной: большинство организаций теперь отслеживают траты ИИ, тогда как раньше это делали единицы. Это показывает переход ИИ из экспериментальных бюджетов в операционные издержки. Прототип может обрабатывать небольшое число тщательно отобранных запросов, но продукционный агент работает непрерывно, повторяет неудачные действия, вызывает несколько моделей, использует другие агенты и большой контекст при каждом взаимодействии. Когда счёт доходит до финансов, организация может уже не понимать, какой агент понёс расход, какой процесс получил пользу и кто одобрил траты. «Финансы вошли в центр любой ИИ-дискуссии», — говорит Лукас. Финансовые отделы задают вопросы, на которые многие архитектуры не дают ответов: какой агент потратил средства, на что именно и кто это утвердил. Без возможности дать такие ответы расходы на ИИ становятся необоснованными и, следовательно, не получают финансирования.

Функции контроля и атрибуции

Boomi планирует, что её control plane будет отслеживать вызовы агентов и моделей, расход токенов и стоимость рабочих процессов. Ограничения скорости и политики помогут предотвращать неожиданные расходы, а высокорисковые транзакции можно будет удержать до вмешательства человека. Задача — перейти от непрозрачных сводных счётов к расходам, соотносимым с конкретным агентом и бизнес‑результатом. «Контроль — это не тормоз для корпоративного ИИ, это то, что делает масштабирование возможным», — подчёркивает Лукас.

Стабильность поведения агентов при смене модели

Лукас и технический директор компании Эд Макоски отмечают, что самая трудная проблема — не просто перенаправить подсказку, а обеспечить стабильность поведения агента, когда меняется модель под ним. Разные модели обучены и выровнены по-разному; одна и та же инструкция может приводить к различиям в содержании, структуре, тоне и надёжности ответа, в использовании инструментов и в решениях о том, достаточно ли данных для действия. Агент, протестированный на одной модели, не гарантированно сохранит идентичное поведение при переключении на другую. Поэтому маршрутизация подсказок — это не просто балансировка трафика по наименее дорогому двигателю; требуется оценить задачу, чувствительность и сложность данных, выбрать подходящее направление и верифицировать, что агент сохраняет производительность и безопасность после изменения модели.

Роль детерминированных инструментов

Макоски отмечает, что control plane должен направлять работу не только между вероятностными моделями, но и в сторону детерминированных инструментов, когда они более уместны. Одна и та же бизнес‑операция может содержать элементы, требующие вероятностного вывода (интерпретация неясного запроса клиента, извлечение смысла из документа), а также элементы, требующие определённости (проверка цены, расчёт, применение правила одобрения и обновление учётной системы). Провайдер, зарабатывающий на потреблении моделей, не заинтересован рекомендовать метод, который не тратит токены, но задача инфраструктуры — направить запрос туда, где он будет решён наиболее надёжно и экономично.

Открытые модели и гибкость

Рост возможностей открытых моделей делает гибкость важнее. По словам Лукаса, многие CIO серьёзно инвестируют в открытые веса, и для ряда задач такие модели уже сопоставимы с лидирующими коммерческими решениями. Макоски оценивает, что открытые модели часто отстают от передовых не более чем на пару кварталов; модель, бывшая лидером полгода назад, не становится бесполезной с появлением следующей версии. Для многих ограниченных корпоративных задач они остаются пригодными и могут работать дешевле, сохраняя контроль над местом обработки данных. В то же время Лукас признаёт, что не следует полностью отказываться от передовых провайдеров: некоторым задачам необходимы их продвинутые возможности, мультимодальность и масштаб. Эксплуатация открытых моделей влечёт за собой собственные затраты на инфраструктуру, хостинг, настройку и поддержку. Лучшее решение — позволить ситуации определять инструментарий, а не объявлять единственного победителя.

Защита интеллектуальной собственности и зависимость от провайдеров

Помимо экономии, ещё одна причина вернуть контроль над использованием ИИ — защита интеллектуальной собственности. Сотрудники часто загружают внутренние документы, код, стратегии и информацию о клиентах в публичные сервисы, чтобы работать быстрее. По предупреждению Лукаса, это может привести к непреднамеренной потере уникальных знаний компании и к созданию моделей и материалов, которые становятся более однообразными. Вопрос не только в том, учатся ли провайдеры на конкретных запросах, но и в стратегической зависимости, возникающей когда рабочие процессы и знания предприятия проходят через узкий круг внешних компаний, контролирующих ценообразование, лимиты, доступность моделей и политики использования. Построение агентов напрямую на одном провайдере может привести к технически и операционно сложной миграции при необходимости смены поставщика.

Компоненты control plane и слой принудительного контроля

Boomi описывает набор компонентов, объединённых в Agent Control Plane. Agent Control Tower предоставляет центральную видимость агентов и инструментов, включая те, что созданы во внешних экосистемах. Boomi Connect обеспечивает доступ к более чем тысяче корпоративных инструментов через управляемые подключения по Model Context Protocol (MCP). Agent Context должен «привязывать» активность к утверждённым бизнес‑определениям и трассируемым данным, а распределённое исполнение позволяет обрабатывать данные в среде, выбранной клиентом. Новый Boomi AI Gateway задуман как слой принуждения: инспекция живого трафика, применение идентификационных и скоростных лимитов, исполнение политик, контроль перерасхода токенов и удержание высокорисковых действий для человеческого одобрения. Важно отметить, что многие из этих возможностей анонсированы как направление развития, а не как полностью доступный сегодня набор функций.

Губернанса с прицелом на исполнение

Аналитик Майкл Барнс отмечает, что разговор о регулировании сдвинулся от оценки рисков моделей к рискам исполнения: теперь компании больше беспокоит не что говорит агент, а что он делает с бухгалтерскими книгами или данными клиентов, сколько это стоило и можно ли восстановить решение при аудите спустя месяцы. Барнс утверждает, что провайдеры облаков и моделей управляют только своими доменами, оставляя предприятия с фрагментарными следами аудита. Поэтому те организации, которые правильно выстраивают контроль, помещают принудительные механизмы между агентом и системой учёта, а не рядом с ней.

Дифференцированный подход к контролю

Центральный надзор не означает, что все агенты должны иметь одинаковые правила. Boomi отмечает, что значительная доля автономных агентов будет понижена или выведена из эксплуатации после обнаружения разрывов в управлении. Унифицированный подход к контролю может привести к отказам: агенты с разным уровнем автономности и сферой действия требуют разного уровня объясняемости, логов и обязательного человеческого контроля. Например, рекрутинговый агент, оценивающий людей, потребует полной объяснимости и обязательного вмешательства человека; ассистент, суммирующий внутреннюю встречу, — менее строгие требования; агент, изменяющий учётные записи клиентов или записи в главной книге, нуждается в жёстких ограничениях.

Стандартизованный доступ к инструментам и риски MCP

Model Context Protocol ускоряет как возможности, так и риски: он стандартизирует способ, которым ИИ-системы обнаруживают и вызывают внешние инструменты, подключаясь к базам данных, приложениям, API и операционным процессам без уникальной интеграции для каждой пары. Это мощно, но неподготовленные организации, создавая множество отдельных MCP‑коннекторов, рискуют собрать хрупкую и потенциально опасную инфраструктуру. Каждый коннектор демонстрации требует надёжной аутентификации, авторизации, пропагации идентичности, логирования, управления жизненным циклом и защиты от неправильного использования инструментов. Boomi Connect позиционируется как управляемый MCP‑сервис, который аутентифицирует и измеряет вызовы инструментов, интегрируется с провайдерами идентичности и ведёт записи о пользователе, коннекторе и выполнённом действии.

Заключение

Boomi ставит целью дать предприятиям набор инструментов, позволяющий безопасно и экономно оперировать ИИ без необходимости постоянно добавлять всё новые и новые интеграции и механизмы управления. Это амбициозная задача в условиях, когда стандарты и ведущие платформы остаются нестабильными. По мнению руководства компании, гибкость в выборе моделей и инструментов, атрибуция расходов и сильный слой принуждения между агентами и системами учёта — ключевые элементы, которые позволят предприятиям масштабировать ИИ, защитить свою интеллектуальную собственность и избежать непрозрачных и быстро растущих затрат.