ИИ-агенты стремительно внедряются, оставляя компании без контроля

Лишь 21% организаций сообщили о наличии развитой системы управления агентами, в то время как 74% ожидают, что к 2027 году такие системы будут использоваться по меньшей мере умеренно

Исследование Deloitte показало, что только 21% организаций обладают развитой системой управления агентным ИИ. В то же время 74% респондентов предполагают, что их компании будут применять ИИ-агентов как минимум в умеренных объемах к 2027 году.

Deloitte определяет зрелую систему как такую, в которой четко установлены границы для самостоятельных решений агентов и действий, требующих человеческого одобрения, осуществляется мониторинг их поведения и аномалий, а также ведутся записи всех этапов работы агентов.

В отдельном опросе, проведенном среди 501 руководителя и старшего менеджера американских компаний, 61% респондентов выразили мнение, что ожидают высокой степени автономности большинства ИИ-агентов, при этом люди в основном будут выполнять надзорные функции. Однако лишь примерно 1 из 5 организаций готова адаптировать свои бизнес-процессы для автономных систем.

Среди основных препятствий Deloitte выделяет недостаточно документированные процессы, фрагментированные данные и устоявшиеся методы работы.

Среди тех, кто ожидает использования ИИ-агентов к 2027 году, 23% предсказывают их широкое применение, а 5% — полную интеграцию в ключевые операции.

Deloitte также предостерегает, что агенты, работающие без мониторинга и централизованного контроля, могут допускать ошибки, раскрывать конфиденциальную информацию, конфликтовать между собой или создавать угрозы для кибербезопасности. В отчете особое внимание уделяется необходимости устанавливать допустимые действия, пороги согласования, вести журнал вызовов инструментов и проверять сценарии отказа.