Новый отчёт показывает: чтобы получить отдачу от инвестиций в ИИ, организациям Океании нужно усилить инфраструктуру, управление и готовность к изменениям

Крупные международные компании, которые внедряют практики доверительного искусственного интеллекта, в 15 раз чаще добиваются высокой рентабельности инвестиций в проекты на базе ИИ. Такие выводы содержатся в новом исследовании SAS с аналитикой IDC, посвящённом влиянию доверия на экономику применений данных и ИИ.

Ключевое наблюдение отчёта: организации, применяющие меры по обеспечению доверенного ИИ — включая надёжное управление, качество данных и возможность аудита — показывают значительно лучшие финансовые результаты. В сегменте лидеров по доверительности, относительно небольшой группе компаний, доходность от внедрений ИИ как минимум вдвое превышала результаты остальных. Напротив, среди «отстающих» по доверию к ИИ менее одной из двадцати организаций сообщила о сопоставимой высокой рентабельности.

Эксперты подчёркивают, что высокая эффективность ИИ возможна, но требует системной работы. Главный технический директор SAS отметил, что современные автономные агенты при сложных задачах могут допускать существенные ошибки, что недопустимо в ситуациях с высокими ставками. Для достижения точности и воспроизводимости необходимо встраивать экспертные знания в рабочие процессы агентов и сохранять людей в центре процессов управления и надзора. Такой подход помогает сократить «разрыв доверия» и даёт конкурентное преимущество.

Вице‑президент IDC добавил, что по мере роста автономности систем предприятия сталкиваются с проблемой сохранения уверенности в системах, которые люди полностью не понимают. Исследование подтверждает, что усиление надзора, объяснимости, подотчётности и надёжных данных становится предпосылкой масштабирования ИИ. Несмотря на некоторые положительные сдвиги, доверие к ИИ в регионе Океания по-прежнему отстаёт от мировых ориентиров. Индекс доверия региона вырос, но остаётся ниже глобальных уровней, и отчёт отмечает, что рост индекса сопровождается разрывом между рыночными амбициями по внедрению ИИ и реальной готовностью поддержать эти амбиции с точки зрения инфраструктуры и управления.

Отдельные выводы по Океании и общие темы отчёта:

— Местные ограничения инфраструктуры и суверенитета данных. Ни одна из наиболее продвинутых больших языковых моделей, используемых организациями региона, не размещена локально; компании регулярно передают чувствительные данные за границу для обработки. Это создаёт структурное ограничение для роста и «суверенный» разрыв, который нельзя устранить без совместных инвестиций в инфраструктуру.

— Рост индекса влияния идёт вниз. Снижение показателя влияния региона свидетельствует о том, что одних улучшений в управлении недостаточно для открытия следующей волны ценности. Наиболее эффективное текущее действие — масштабирование локальных проверочных и привязочных архитектур, но их развёртывание требует инвестиций, которые одна организация не в состоянии сделать в одиночку.

— Проблема человеческого недоверия к решениям ИИ. Когда сотрудники не доверяют выводам ИИ и массово отменяют или корректируют рекомендации вручную, это усиливает дефицит доверия, снижает эффективность и вредит прибыльности. Одной из главных причин переопределений (overrides) является недостаточная объяснимость — почти треть респондентов указывает на это как на причину. Устранение проблем с фактической точностью, обнаружением смещений и объяснимостью в комплексе снижает частоту отмен и повышает ценность решений на базе ИИ.

— Растущее расслоение по ROI. Между организациями, которые делают ставку на доверительный ИИ, и теми, кто этого не делает, появляется значительный разрыв по отдаче. Во всём мире компании, инвестирующие в меры доверительного ИИ, в 15 раз чаще сообщают о высокой ROI. В Океании наибольшую ценность получают те организации, которые одновременно инвестируют в подготовку персонала, формируют экспертизу и чётко понимают, когда, как и зачем использовать ИИ. Инвестиции в обучение наряду с технологиями названы важным инструментом для сокращения возникающего разрыва.

— Снижение приоритетов по этике и аудиту. Доля организаций, нанимающих или обучающих персонал по вопросам этики, соответствия и управления рисками ИИ, упала почти на треть. Число регулярных аудитов и оценок воздействия также сократилось. Эти снижения происходят в то время, когда индекс доверия растёт и разрыв в доверии постепенно сужается, что вызывает вопросы о долгосрочной устойчивости подобных тенденций.

Исследование опирается на глобальный опрос 2 699 лиц, принимающих решения или влияющих на инициативы в области данных и ИИ в компаниях; опрошены организации в многочисленных странах и четырёх ключевых отраслях: банковском деле, страховании, бионауках и государственном секторе. В отчёте показаны отраслевые кейсы, иллюстрирующие подходы лидеров по использованию ИИ.

Некоторые отраслевые наблюдения из отчёта:

— Банковская отрасль: лидеры рассматривают надёжное управление ИИ как конкурентное преимущество и операционную необходимость — значительная часть лидирующих банков уже внедрила рамки управления ИИ по сравнению с небольшим числом отстающих.

— Государственный сектор: заметная доля лидеров сектора планирует значительное увеличение вложений в доверительный ИИ в ближайший период, наравне с наиболее амбициозными игроками в других отраслях.

— Бионауки: наибольший среди изученных секторов процент организаций, которые масштабировали ИИ на уровне всей компании.

В отчёте доверительный ИИ определяется как искусственный интеллект, рассчитанный на надёжность, справедливость, безопасность, соответствие нормативам и обеспечивающий прозрачность принятия решений. Пользователи и руководители должны иметь возможность привлекать систему к ответственности за некорректные или отсутствующие результаты, а систему необходимо сопровождать проверяемыми правилами управления и соблюдения соответствия.

Организации в отчёте оценивались по пяти измерениям доверительного ИИ, получая общую шкалу до 100 баллов; лидерами считались те, у кого средний суммарный балл равен 80 и выше. Эксперты отчёта призывают рынок Океании активизировать работу по трём направлениям: инвестировать в локальную инфраструктуру и совместные решения для обработки чувствительных данных, укреплять данные и процессы верификации для снижения частоты отмен решений ИИ, а также усилить кадровую подготовку и регулярные аудиты. Только сочетание технологий, управления и человеческой экспертизы, по их мнению, позволит региону извлечь максимальную коммерческую пользу из вложений в ИИ.