Ваш AI-агент — новый стажёр, и кто-то должен им управлять
Компании, спешащие внедрять интеллектуальные агенты, должны перестать воспринимать их как безошибочных цифровых работников и начать управлять ими как неопытными новыми сотрудниками, говорит технический директор по AI и руководитель инноваций в Boomi Патриция Мур. Дайте агентам ограниченные обязанности, контролируйте их работу, анализируйте ошибки и расширяйте полномочия лишь по мере накопления доверия.
Искусственный интеллект может обрабатывать огромные объёмы корпоративной информации, интерпретировать неструктурированные документы и действовать в нескольких бизнес-системах, но это не значит, что на него следует вверять ключи от компании в первый же день. По словам Мур, организации должны относиться к AI-агентам примерно так же, как к новому сотруднику или стажёру. Новичку обычно не дают неограниченных полномочий и не оставляют принимать судьбоносные решения без надзора. Он начинает с простых задач, его работу проверяют, менеджер указывает на ошибки, оценивает суждения и постепенно доверяет более ответственную работу. AI-агенты должны «заслужить» автономию аналогичным образом.
Мур вспоминает начало своей карьеры на коммуникационной должности, когда она отправляла письма от имени организации. Сначала менеджер проверял и утверждал каждое сообщение. По мере того как Мур демонстрировала понимание организации, её голоса и ожиданий, контроль постепенно ослаблялся: сначала на утверждение отправляли письма только для определённых аудиторий, затем ей доверили отправлять почти всё самостоятельно. Это — ценный пример безопасного ввода AI-агентов в корпоративную среду.
«Дайте им детские шаги и небольшие задания, — говорит Мур. — По мере того как они заслуживают доверие, вы проверяете их реже». Но аналогия также выявляет один из ключевых нерешённых вопросов агентного AI. Если Мур допустила ошибку — например, приписала цитату неверному человеку — её менеджер мог спросить, что произошло, откуда взялась информация и почему было принято такое решение. Мур могла объяснить, принять обратную связь и не повторять ошибку. Сможет ли организация сделать то же самое с AI-агентом?
«Если бы я была AI-агентом, как мой начальник мог бы спросить?» — задаёт вопрос Мур. Организации нужны логи, данные и следы принятия решений, позволяющие восстановить действия агента и мотивы этих действий. Нужны механизмы для корректировки работы и понимание того, повлияют ли эти корректировки на будущее поведение. И, самое главное, нужен человек, ответственный за результат. Нельзя просто обвинять «AI», когда агент принимает неприемлемое решение, раскрывает конфиденциальную информацию или запускает неверный бизнес-процесс. Ответственность должна быть чётко распределена ещё до вывода технологии в эксплуатацию.
Это классическая проблема, которую отражает RACI‑диаграмма — инструмент управления проектами, показывающий, кто отвечает, кто несёт ответственность, кто консультируется и кто информируется. «Люди всегда хотят быть консультируемыми или информируемыми, а не ответственными или подотчётными», — отмечает Мур. Но кто-то должен быть ответственным за технологию. Кто-то должен знать, что агенту разрешено делать, как оценивается его работа, что происходит при сбое и когда доступ нужно ограничить или отозвать. Эта ответственность должна быть понятна правлению, команде технологий и, в особенности, тому, кто её принимает.
Первым же вопросом при создании AI‑агента должно стать: как выглядит отличная работа? «Если вы не можете определить, что такое успех, что вы измеряете и достигли ли вы цели, нужно остановиться», — говорит Мур. Нельзя понять, приносит ли агент ценность, если никто не определил ожидаемый результат; совет директоров не сможет обоснованно утвердить продолжение работы без критериев успеха, безопасности и признаков провала.
«Просто простой процесс» — такого не бывает
Когда Мур спрашивают, что чаще всего приводит к провалу AI‑проекта у клиентов и партнёров, её ответ прост: даже до выбора модели или агента проблема в том, что организация не потратила время на понимание процесса, который хочет автоматизировать. Она приводит пример клиента из страховой отрасли, у которого казалось бы простая задача: клиент подаёт претензию через портал, и претензия либо утверждается, либо отклоняется. На деле же эти две фазы скрывали сложную бизнес‑логистику.
Заявитель должен собрать подтверждающие документы: структурированные формы, корреспонденцию, фотографии, PDF‑документы. Нужно извлечь и интерпретировать информацию. Релевантные данные проверяются на соответствие политикам и правилам. Необходимо распознавать исключения, часть случаев требует эскалации к человеку. Решение — не конец процесса: результат фиксируется в другой системе, клиент уведомляется. Утверждение запускает цепочку действий по оплате или компенсации, отклонение требует объяснений, пути апелляции или дополнительных доказательств.
В рабочем потоке есть персональные и потенциально чувствительные данные; прежде чем отправлять их в AI‑сервис, организация должна убедиться, что это не противоречит регуляциям, внутренним политикам и контрактным обязательствам. В итоге то, что выглядело как «простой AI‑процесс», оказалось цепочкой детерминированных правил, задач по обработке документов, суждений, исключений, человеческих решений и последующих действий. Да, AI может быть полезен в этой цепочке, но это не значит, что он должен отвечать за всё. Например, агент может выявлять релевантную для претензии информацию или классифицировать входящие документы; далее традиционная автоматизация может применять детерминированные правила политики, а неопределённые или критичные решения оставлять за квалифицированным человеком.
Для тех, кто только начинает путь в агентном AI, Мур советует ползти, прежде чем бежать. Вместо того чтобы «агентизировать» весь сложный процесс сразу, выбирайте ограниченный компонент, изучайте его входы и риски, измеряйте производительность и учитесь на результатах. Критическая работа — не только очистка данных, а понимание полного бизнес‑процесса: где хранятся данные, кто ими владеет, какие этапы требуют рассуждения, какие должны оставаться детерминированными и где человеческая ответственность незаменима.
Демонстрация знает процесс; производство — знает ваш процесс
Все сталкивались с блестящим демо, которое в реальной среде работает иначе. Демонстрация может показать агента, получающего запрос службы, категоризирующего его, назначающего команду и обновляющего тикет после решения. Общая последовательность похожа во многих компаниях, но у каждой организации свои правила назначений, пути эскалации, пороги утверждений, системы, терминология и исключения. Разница между эффектным демо и полезным производственным агентом — в специфике: насколько глубоко агент понимает окружение организации и как её сотрудники фактически выполняют работу.
Это понимание нельзя получить из тикета с двухстрочным описанием. Мур подчёркивает необходимость вовлечения нужных людей в дизайн. Маркетинговая команда, например, может запросить агента для управления кампаниями, но данные могут храниться не только в маркетинговом приложении: часть может быть в хранилище данных с иной гранулярностью, ограничениями и владельцами. Если не поговорить с командой хранилища данных, дизайнеры решения могут никогда не узнать, какая информация доступна, насколько ей можно доверять и как её можно легально использовать.
Человек, запрашивающий решение, может знать желаемый результат, но не всех заинтересованных сторон, источников данных или зависимостей, необходимых для безопасной реализации. Время, потраченное в начале на выявление этих людей, — это не бюрократическая трата, а способ избежать создания элегантного решения для вымышленной версии бизнеса.
Сотрудники уже экспериментируют
Есть человеческий вызов и для ИТ‑директоров, которые пытаются управлять внедрением AI только через запреты. Как и с теневым IT, существует теневой AI: сотрудники будут вставлять корпоративные документы в бесплатные внешние AI‑сервисы, чтобы получить результат. Важно не только обнаружить несанкционированное использование, но понять, почему люди выбирают эти инструменты. Возможно, организация не предоставила утверждённую альтернативу, или предоставленное решение не решает их задачу.
Пока технологические лидеры не начнут этот разговор, они не смогут ожидать, что сотрудники откажутся от инструмента, который помогает им, в пользу менее полезного утверждённого решения. CIO должны одновременно поощрять инновации и ответственный подход к технологиям. Это означает понимание того, что сотрудники пытаются сделать, направление их к подходящим инструментам и предоставление управления и ограничений без подавления инициативы.
Необходима культура, где можно признать неудачу эксперимента; если ошибки наказываются, люди будут скрывать эксперименты и их последствия. Это не устранит теневой AI, а сделает его менее видимым и опаснее. Мур считает, что людям нужна свобода безопасно ошибаться и делиться уроками; эта свобода должна поддерживаться средами, где эксперименты не принесут необратимого вреда — например, песочницами с контролируемыми данными, ограниченными правами и без незамедлительного пути в продуктив.
Песочница не должна быть технологическим тупиком: успешные эксперименты нуждаются в правдоподобном пути в продуктив. Сотрудники должны иметь возможность экспериментировать, учиться и демонстрировать ценность, зная при этом, что всё, что попадает в продуктив, должно соответствовать требованиям безопасности, управления и эксплуатации. Это основа настоящей культуры инноваций: не безрассудство и не запрет, а любознательность в продуманно установленных границах.
Нетрадиционный путь в технологии
Фокус Мур на людях, экспериментах и практических результатах отражает её собственный нетипичный путь в технологическую отрасль. Работая директором программ и коммуникаций в некоммерческой организации, она преподавала в выпускном курсе программы инноваций, помогая стартаперам и интрапренёрам тестировать жизнеспособность идей. Студенты итеративно собирали обратную связь и двигались к минимально жизнеспособному продукту; Мур приглашала публику на презентации, чтобы потенциальные клиенты откликались напрямую, и каждое выступление становилось лучше.
Первый контакт с Boomi казался разговором о найме студентов, но превратился в обсуждение её самой — она начала изучать платформу Boomi и признала себя «останинной гражданской интеграторкой» в шутливом выражении: человек, который не просто строит технологию, а применяет доступные технологии к реальным бизнес‑задачам. Внутри компании она работала как «клиент ноль», используя Boomi для создания решений для самого Boomi. Эта роль дала видение, которое может ускользать от традиционной продуктовой разработки.
Хотя Мур не инженер по образованию, её сильные стороны — коммуникация, изменение поведения, бизнес‑анализ, эксперименты и практическое применение идей — оказались ценными при работе с клиентами и партнёрами, сталкивающимися с обещаниями и сложностями корпоративного AI.
Технология может выполнять работу, но не может нести последствия
Посыл Мур в целом оптимистичен. Сотрудники любопытны и находят новые способы использования AI, зачастую раньше, чем организации определяют правила управления. Бизнес‑процессы содержат возможности для агентов избавить людей от рутинной работы, интерпретировать сложную информацию и помогать действовать эффективнее. Но путь к надёжному корпоративному AI не в том, чтобы притворяться, что технология безошибочна.
Нужно определить успех, понять реальный процесс, вовлечь людей, знающих данные, выделить подходящие задачи, обеспечить безопасные условия для экспериментов и сохранить человеческую ответственность. AI‑агент должен начинать с чётких границ. Его работу нужно делать видимой. Ошибки должны расследоваться. Полномочия агента должны расти лишь тогда, когда у организации появятся доказательства, что доверию можно расширить.
Возможно, однажды агент будет выполнять ценную работу с минимальным надзором — как опытный сотрудник. Но агент не может стать ответственной исполнительной фигурой, владельцем процесса или тем, кто отвечает клиенту, когда что‑то идёт не так. Технология пусть выполняет работу, а ответственность за неё остаётся за человеком. При этом с острым умом, любопытством и благоприятной корпоративной культурой возможности остаются безграничными.
