Искусственный интеллект в финансовом секторе: вызовы и решения
Две трети руководителей ИТ в финансовом секторе сталкиваются с ИИ, который сотрудники развёртывают без согласования, и большинство признаёт в этом бизнес‑риск — такую картину рисуют данные последнего исследования Nutanix по финансовому сектору. Джей Тюсет, вице‑президент и генеральный менеджер по региону Азия‑Тихоокеанский регион и Япония в Nutanix, считает, что решение начинается с признания причин, побудивших сотрудников обращаться к сторонним ИИ‑инструментам: им нужны средства, которые внутренняя ИТ‑служба не успевает предоставить.
Исследование Nutanix, в котором участвовали руководители облачных, ИТ‑ и инженерных подразделений в нескольких странах, показало: 66% руководителей ИТ в финансовых организациях обнаруживали несанкционированные ИИ‑приложения, созданные сотрудниками вне ИТ, и 86% считают, что такие инструменты, работающие без официального надзора, создают бизнес‑риски. Тюсет утверждает, что это прежде всего сигнал спроса: бизнес подразделения испытывают давление конкуренции и требования по доходности, им нужно действовать быстро, а внутреннее ИТ не успевает. В таких условиях люди обходят ИТ, чтобы получить необходимые инструменты.
Такой подход меняет и способы реагирования. Жёсткая полицейская блокировка периметра не решает проблему очереди бизнес‑запросов на внутренние сервисы, которых нет. Нужно признать, что спрос существует, и формировать решения, учитывающие эту реальность, а не лишь усиливать запреты.
Регуляторные ожидания в отношении ИИ уже стали чёткими: регулятор выразил позицию, что в случае, если организации не смогут адекватно идентифицировать, управлять и контролировать риски ИИ соразмерно своему масштабу и сложности, последуют усиленные надзорные меры и, при необходимости, принудительные санкции. Тюсет полагает, что серьёзные финансовые организации не рассчитывают на то, что требования пройдут мимо: исполнение будет требовать действий.
Готовность различается по секторам, и чаще ограничения носят не технический характер: в опросе 38% лидеров финансового сектора назвали сложность процессов главным препятствием к масштабированию ИИ, 34% указали на лидерство и недостаток навыков, и лишь 28% списали барьеры на технические ограничения. По мнению Тюсета, это во многом проблема культуры, а не только технологий. Он рекомендует уходить от подхода «чек‑листов» и внедрять непрерывное управление прямо в слои данных и инфраструктуры.
Это совпадает с выводом регулятора, который отметил, что немногие организации имеют непрерывную валидацию или мониторинг для своевременного выявления проблем вроде дрейфа моделей, смещения, отказов режимов или сбоев контроля. В письме регулятора также перечислены векторы атак: инъекции в подсказки, утечки данных, небезопасные интеграции, инъекции эксплойтов и манипуляции автономными ИИ‑агентами. Отдельно отмечено, что средства управления идентификацией и доступом ещё не адаптированы к не‑человеческим субъектам, таким как ИИ‑агенты.
Тюсет подчёркивает: первый шаг — признать, что проблема уже здесь. Большая доля организаций ожидает развёртывания агентного ИИ в ближайшие годы. Практическая рекомендация — ориентироваться на переносимость рабочих нагрузок: начинать в публичном облаке, но строить приложения так, чтобы их можно было переместить в локальные дата‑центры в случае требования суверенитета данных. Наиболее удобный способ обеспечить такую переносимость — контейнеры: они упаковывают код и зависимости в изолированную портативную среду, что даёт командам безопасности детализированный контроль и защиту данных.
Согласно исследованию Nutanix, сектор уже движется в этом направлении: 90% лидеров ИТ в финансовых организациях считают, что ИИ ускоряет принятие контейнеризации, и 89% ожидают дальнейшего роста контейнеризации. Тюсет подчёркивает простую мысль: агенты опасны ровно настолько, насколько опасны данные, к которым они имеют доступ. Агентов надо воспринимать как сотрудников: они совершают действия, могут «дрейфовать» и иногда ошибаться; в каскаде агентов человек может вообще отсутствовать в цепочке, что делает вопросы управления критическими.
Автономные агенты и суверенитет данных привели Тюсета к понятию «суверенитетный долг» — разрыва между приоритетом суверенитета данных и реальной практикой развёртывания. В отчёте отмечено, что большинство руководителей признают суверенитет данных приоритетным, но при этом значительная доля работает с контейнеризированными нагрузками в публичном облаке. Суверенитетный долг — это риск, который организация берёт на себя, выбирая скорость публичного облака сегодня и понимая, что позже возникнут нормативные вызовы при переводе приложений в продуктив. По словам Тюсета, единственный, кто в конечном счёте будет погашать этот долг, — сама организация; гипермасштабируемый провайдер этого не сделает.
Чрезмерная привязка архитектуры к нативным сервисам одного провайдера порождает высокие операционные и финансовые затраты при попытке «развязать» зависимости впоследствии. Инфраструктурные показатели отчёта обнадеживают не всех: большинство респондентов признают, что их инфраструктура не готова полноценно поддерживать ИИ‑нагрузки локально, и многие полагаются на сторонних поставщиков. Тюсет считает правильным подходом «гибрид по дизайну», который включает публичное облако, частные дата‑центры и край (edge).
Нужен распределённый доступ к данным при централизованном контроле: начать в публичном облаке (где легче получить GPU), контейнеризировать с первого дня, а затем переносить нагрузки в приватную облачную среду по мере прояснения требований безопасности и производительности, минимизируя рефакторинг при смене «почтового адреса» приложения. Он также отмечает важность соответствия CNCF‑стандартам Kubernetes: провайдеры GPU и экосистема ориентируются на совместимый, «плоский» Kubernetes, и доступ к лучшим решениям требует соблюдения стандартов.
На уровне предприятия обязательными становятся наблюдаемость (observability) и сервис‑меш, а интеграция должна быть возможна без дорогостоящих сервисных проектов. Контейнеризация даёт ещё одно преимущество: аппаратное обеспечение быстро обновляется, и портативные рабочие нагрузки могут перейти на более производительные модели по мере их появления. В отчёте 83% респондентов указали, что силосы между бизнес‑единицами и ИТ усложняют реализацию технологий.
Ответ «вернуть всё под контроль центрального ИТ‑подразделения» повторяет логику, породившую теневой ИИ: централизация правил «нет» лишь углубляет теневые практики. Вместо запретов ИТ должно предоставлять платформу для самообслуживания, позволяя бизнес‑единицам безопасно создавать собственные решения — модель, которую Тюсет называет «управляемая демократизация».
Диагностика для CIO проста: если подразделения тайно используют непроверенные потребительские ИИ‑приложения, возможно, внутреннее обеспечение занимает слишком много времени; устаревшая инфраструктура, не предназначенная для ИИ, требует модернизации. Регулятор указал и на дефицит технической грамотности в советах директоров: многие советы ещё развивают навыки, позволяющие эффективно оценивать риски ИИ и надзор.
Тюсет советует директорам задать исполнительной команде ключевой вопрос: если регулятор потребует провести аудит данных ИИ или мигрировать конкретное приложение из публичного облака в локальный дата‑центр, смогут ли мы это сделать без вреда или остановки операций? Этот вопрос переводит обсуждение архитектуры с уровня слайдов о выгодах к реальным операционным рискам.
Технологии решают лишь часть задач: отчёт Nutanix показывает, что технические ограничения — лишь около четверти проблем масштабирования ИИ; остальное связано с процессами, внутренними силосами и разрывом в согласовании. Домашняя работа для организаций — создать этические рамки ИИ, подготовить команды комплаенса к новым динамикам, научиться распознавать дрейф модели в реальном времени и наладить коммуникацию между бизнесом и ИТ. Никакая технология не снимет с организации необходимость очищать и санировать данные до их использования.
На практическом уровне Тюсет предлагает два первоочередных шага для CIO финансовой организации. Во‑первых, провести аудит текущих каналов данных и активных экспериментов с ИИ, чтобы выявить «суверенитетный долг» до того, как регулятор обнаружит его за вас. Во‑вторых, сделать переносимость обязательным требованием: ввести модель «гибрид по дизайну», требующую, чтобы все ИИ‑проекты можно было переносить между дата‑центрами, публичными облаками и краевыми узлами без рефакторинга.
Развитие крайних вычислений и агентов на краю — ещё одна тема, на которую Тюсет указывает как на перспективную область для финансовых учреждений. Перенос вычислений ближе к месту появления данных — в филиалы, торговые залы и другие точки присутствия — позволяет обрабатывать запросы локально, а при необходимости элегантно передавать сложные ситуации человеку. Это может отчасти смягчить последствия закрытия банковских отделений в регионах: агент на краю, способный отвечать на типичные вопросы и переключать на человека при сложных ситуациях, даёт технологическое решение коммерческой проблемы, созданной самим банковским сектором.
Тюсет также приводит примеры из здравоохранения, где машины иногда справляются с задачами быстрее и точнее человека, особенно при обработке больших объёмов данных: с помощью моделей ИИ находят болезни в реальном времени, что человеку заняло бы недели.
В завершение интервью Тюсет поделился воспоминаниями о первом компьютере — Apple II, на котором его отец отправил его на летний курс программирования; принцип был прост: компьютер куплен при условии, что он научится им пользоваться, игры были наградой, кодирование — «кварплата». Лучший совет, который он получил от наставника в колледже, — короткая мысль о неизбежности перемен, которую он несёт с собой и сегодня.
Выводы интервью и исследования Nutanix однозначны: финансовым организациям необходимо признать существование теневого ИИ как сигнала спроса, не пытаться решить проблему исключительно запретительными мерами, а строить гибридную, переносимую и управляемую платформу, сочетая технологические решения с изменениями в процессах, культуре и руководстве, чтобы соответствовать нормативным ожиданиям и снизить «суверенитетный долг».
