Исследование Exabeam: Внутренние риски от AI-агентов

Компания Exabeam представила исследование, в котором отмечается: автономные AI‑агенты с чрезмерным, скомпрометированным или непреднамеренным доступом рассматриваются лидерами безопасности как главный внутренний риск для организаций. В опросе почти половина респондентов из числа руководителей служб информационной безопасности поставили именно этот фактор выше внешних злоумышленников и скомпрометированных или злонамеренных сотрудников.

В исследовании, подготовленном по заказу Exabeam агентством Sapio Research и охватившем 600 руководителей в областях безопасности и финансов в нескольких странах, AI‑агентами определяют автономные, целеориентированные системы, имеющие доступ к корпоративным ресурсам и способные совершать действия с ограниченным участием человека — то есть не простые чат‑боты.

Согласно результатам, быстрый рост внедрения таких агентов меняет представление организаций о внутренних угрозах: 48% опрошенных лидеров безопасности считают именно агентов с неподобающим доступом наибольшей угрозой, тогда как внешние акторы получили 28%, а скомпрометированные и злонамеренные инсайдеры — по 12%.

Эксперты и респонденты выделяют ряд ключевых опасений: доступ к чувствительным данным, выполнение действий за пределами предусмотренных полномочий, сложность расследований и ограниченная видимость поведения AI‑агентов. При этом организации наращивают инструменты мониторинга таких систем. В частности, 60% респондентов сообщают о применении специализированных средств безопасности или управления для AI, 56% расширяют существующие платформы SIEM и мониторинга, ровно 56% используют поведенческий мониторинг и создание базовых характеристик, и 29% по‑прежнему полагаются на ручную проверку.

Несмотря на эти инвестиции, авторы исследования указывают на серьёзные пробелы: 27% считают, что основное ограничение текущих подходов — недостаток поведенческого контекста и корреляции событий. Также отмечают плохую видимость между системами, проблемы с приоритизацией оповещений и избыточную ручную работу.

Представители Exabeam подчеркивают, что мониторинг активности AI‑агентов не равен пониманию их поведения: поскольку агенты работают с легитимным доступом и взаимодействуют с множеством систем, отдельные действия могут выглядеть рутинными, а для отличения ожидаемой автоматизации от злоупотреблений, компрометации или непреднамеренных действий нужно уметь связывать события во времени и в контексте бизнеса.

Отдельно исследование показало высокую степень согласованности между отделами безопасности и финансов в оценке киберрисков: подавляющее большинство считает, что обе функции согласованы по уровню терпимости к риску, и большинство руководителей безопасности полагают, что их финансовые директора понимают области работы по снижению киберрисков.

Тем не менее это не всегда приводит к одобрению инвестиций: 55% лидеров безопасности заявили, что откладывали или сокращали инициативы по безопасности, поскольку не смогли сформулировать риск в финансовых показателях, приемлемых для их финансовых руководителей. Финансовый директор Exabeam отметил, что сами по себе вопросы реальности киберриска у CFO возникают редко; основная трудность — показать, как конкретные инвестиции измеримо снижают риск в терминах бизнеса.

Исследование подчёркивает потребность организаций перейти от простого мониторинга AI‑агентов к более глубокому пониманию их поведения и бизнес‑контекста, а также необходимость умения переводить технические последствия в финансовые аргументы для принятия решений об инвестициях в безопасность.