Финансовым директорам, которые начинают использовать ИИ-агентов, не стоит сразу ориентироваться на экономический эффект от технологии. На первом этапе важнее проверить, насколько компания готова контролировать действия автономных систем. Такой подход рекомендует Алекс Левин, директор-аналитик практики Gartner Finance.

По мнению Gartner, ИИ-агенты несут для финансовых подразделений принципиально иные риски, чем традиционная автоматизация, классический ИИ или генеративные модели. В отличие от систем, работающих по заранее заданным правилам, агент способен самостоятельно интерпретировать поставленную задачу, планировать последовательность действий, обращаться к нескольким информационным системам и выполнять операции.

Именно степень автономности становится главным источником дополнительного риска. Ошибка агента может возникнуть не только в конечном результате, но и на любом этапе выполнения задачи. При этом отдельные действия системы могут быть недостаточно прозрачными для человека, а ошибка способна быстро распространиться на связанные процессы.

Поэтому, отмечают аналитики, объектом контроля должен становиться уже не только результат работы ИИ, но и весь процесс его получения. Для финансовой функции это означает необходимость заранее определить правила доступа к данным, допустимые действия агента, точки обязательной проверки человеком и механизмы отслеживания всех операций.

Первый проект — не для быстрой отдачи

Gartner рекомендует CFO рассматривать первый проект с ИИ-агентом прежде всего как пилот системы управления, а не как эксперимент по максимизации ROI.

На раннем этапе основная проблема обычно заключается не в недостатках самой технологии, а в отсутствии понятных механизмов контроля. Если компания сначала отработает процедуры надзора, аудита и трассировки действий агента, в дальнейшем ей будет проще масштабировать технологию на более критичные финансовые процессы.

Иными словами, первый агент должен помочь компании ответить не столько на вопрос «сколько денег он сэкономит?», сколько на вопросы «что именно он делает?», «какие данные использует?», «кто отвечает за его действия?» и «можно ли восстановить всю цепочку принятия решения?».

С чего начинать внедрение

Для первого эксперимента Gartner советует выбирать ограниченный и относительно безопасный процесс. Он должен иметь четкие границы, повторяемую последовательность операций и проверяемый результат. При этом последствия ошибки должны быть очевидными и, по возможности, обратимыми.

Не следует начинать с процессов, ошибка в которых может привести к существенным последствиям, например к необходимости корректировать финансовую отчетность или нарушить регуляторные требования.

До начала разработки необходимо установить границы автономности агента. В частности, компания должна определить, к каким данным он получит доступ, какие действия сможет выполнять самостоятельно и в каких случаях потребуется обязательное вмешательство сотрудника.

Ответственность также должна быть распределена заранее. В проекте должны быть четко определены роли финансового подразделения, ИТ-службы, а также специалистов по аудиту и управлению рисками.

Еще один принцип — изолированная среда. Первый агент должен работать в своего рода «песочнице», где компания сможет наблюдать за его поведением и выявлять ошибки без непосредственного воздействия на рабочие процессы.

Успех — это не только ROI

Традиционные проекты автоматизации обычно оцениваются через экономию времени, сокращение затрат или рост производительности. Для пилота ИИ-агента этого недостаточно.

Gartner предлагает оценивать прежде всего готовность системы управления. У компании должны появиться работающие и последовательно применяемые механизмы контроля, четкие точки проверки и полная трассируемость действий агента.

Финансовая команда должна иметь возможность после каждого запуска восстановить цепочку действий: что агент запланировал, к каким данным обратился, какие операции выполнил и какой результат получил.

Важным элементом становится и журнал ошибок. Он должен фиксировать сбои, причины проблем и способы их устранения. Это позволяет не просто исправлять конкретного агента, но и накапливать опыт для следующих проектов.

В результате успешный пилот должен оставить после себя не только работающий технологический сценарий, но и набор повторно используемых инструментов: шаблоны контроля, процедуры проверки, инструкции и обучающие материалы. Такая база позволит запускать следующие проекты быстрее и с меньшим риском.

От экспериментов — к управляемой автономности

Подход Gartner фактически предлагает изменить последовательность внедрения ИИ-агентов в финансовой функции. Вместо схемы «запустить → получить эффект → масштабировать» компаниям предлагают двигаться по пути «ограничить → проконтролировать → научиться → масштабировать».

Это особенно важно по мере того, как ИИ-агенты переходят от подготовки информации к самостоятельному выполнению последовательностей операций. Чем больше полномочий получает система, тем выше требования к прозрачности ее действий и распределению ответственности.

Таким образом, для CFO первым показателем зрелости ИИ-агентов становится не степень их автономности и даже не полученный ROI, а способность компании безопасно управлять этой автономностью. Только после того, как механизмы контроля проверены на относительно простом сценарии, имеет смысл переносить технологию на более значимые финансовые процессы.

Источник: