24 февраля 2026 г.

Окончание. Начало здесь и здесь

Риски, связанные с внедрением ИИ-агентов, существуют. При их упоминании обычно вспоминают возможные недостоверные данные, которые может предоставить генеративный ИИ. Но эта проблема легко корректируема: агентные решения, использующие ИИ, обученные на RAG (Retrieval-Augmented Generation), работают с достоверными корпоративными данными: регламентами, документацией, внутренними справочниками. Но опасности все же есть.

Риски, которые несут агенты

С внедрением ИИ-агентов возникает ряд проблем. Тут, например, в полной мере присутствуют риски, характерные для ИИ. «Искусственный интеллект» в большинстве случаев остается «черным ящиком», принятые им решения нужно контролировать. Сложные ИИ-агенты могут выработать неочевидные стратегии для повышения KPI. Например, есть прецеденты, когда ИИ-агент поддержки начал намеренно затягивать диалог, чтобы повысить метрику «время в контакте», которая была положена в основу как показатель качества.

О рисках, создаваемых непрозрачность логики, используемой ИИ-агентами, предупреждает Вячеслав Береснев, генеральный директор ЦТИИ Нейролаб, отмечая, что это характерно для всех ситуаций применения LLM.

Нужно помнить об этических рисках. Одними из ключевых назвали эти риски в пресс-службе ВТБ, отметив, что ИИ-агент может сгенерировать некорректный или чувствительный ответ от лица компании.

Для ИИ-агентов актуальны риски, связанные с инфобезопасностью. Например, присутствует вероятность jailbreak-атак (обход инструкций через сложные промпты), атак в формате data poisoning (искажение обучающих данных) и пр.

Актуальны и традиционные риски, связанные с программным обеспечением. Например, активное применение проприетарных ИИ-агентов для бизнес-задач вызывают риски, связанные с vendor-lock — переход с одного агента на другого может быть слишком долгим и затратным. Кроме того, возникает вопрос о переносе опыта, накопленного старым решением, на новое, что является нетривиальной задачей.

Далеко не все они связаны непосредственно с ИТ. Например, кто будет виноват — и, соответственно, кто понесет ответственность — если ИИ-агент принял неверное решение, что привело к убыткам? Предположим, работающий в банке ИИ-агент-аналитик неправильно оценил кредитный риск — как быть с разделением ответственности между внедренцами, разработчиками, сервис-платформой, корпоративным заказчиком, использующим данное решение в своей операционной деятельности? Дискуссии по этим вопросам были начаты недавно, законодательство тут явно отстает, в ряде аспектов присутствует «юридический вакуум».

Есть проблемы с оргпроцессами на производствах. Например, как проектировать и оптимизировать процессы, в которых десятки процентов работы выполняют ИИ-агенты? Как обучать сотрудников, если их «напарник» обновляется раз в неделю? Как будет идти развитие корпоративной культуры, если значительную часть команды составляют «цифровые сотрудники»?

Однако при ближайшем рассмотрении большинство проблем оказываются известными, значит, создание методологий их решения — лишь вопрос времени. Универсальные подходы возможны далеко не везде — у каждого корпоративного заказчика собственные стратегия организации бизнес-процессов, внутренняя культура, отношение к рискам и т. д.

Системный подход минимизирует большинство рисков при всей сложности и новизне проблематики, необходимости применения для анализа ряда новых инструментов и создания методик, учитывающих особенности ИИ. ИИ требует такой же дисциплины, аудита и инфраструктуры, как и любая критическая бизнес-система, напоминает Илья Петров, руководитель проекта Digital Q.GPT в компании «Диасофт».

Заключение: на пути к агентоцентричной экономике

ИИ-агенты, как считают многие аналитики, формируют экономику следующего десятилетия. «Агенты — это безусловное будущее, — говорит Вячеслав Береснев. — На дистанции лет пяти половина всей автоматизации, если не больше, будет именно с применением генеративного и так называемых агентов».

Преимущества ИИ-агентов в бизнесе очевидны: снижение операционных издержек, повышение скорости и качества обслуживания, возможность введения персонализации на массовом уровне, доступность ускорения инноваций и т. д.

ИИ-агенты становятся мэйнстримом в практиках бизнес-применения «искусственного интеллекта». Они больше, чем «умные чат-боты», это основа для новой парадигмы «цифровой трансформации», где ПО перестает быть пассивным инструментом и становится активным участником бизнес-процессов.

В ИИ-агентах заинтересованы большинство российских компаний и организаций — 59%, по данным исследования Высшей школы бизнеса НИУ ВШЭ — которые ищут возможности для внедрения этой технологии в бизнес-процессы, напоминает Кирилл Смеловец, главный архитектор сервисов искусственного интеллекта и машинного обучения Cloud X.

Значимость ИИ для корпоративных заказчиков возрастает. «ИИ становится архитектурной основой корпоративных экосистем, а на первое место выходит зрелость MLOps и наличие доступных вычислительных мощностей», — отмечает Сергей Голицын, руководитель направления «Искусственный интеллект» в Т1.

ИИ-агенты могут быть приземлены на локальных устройствах, более того, ряд экспертов считают такое направление развития этого тренда крайне важным. «Одним из основных ИИ-направлений, которое будет развиваться в РФ и во всем мире, это автономные ИИ-агенты, которые будут интегрироваться в офисах, в „умных городах“, в сфере услуг, промышленности, здравоохранении и т. д., — говорит Сергей Гендрих, руководитель управления клиентских систем в компании „Гравитон“. — Их автономность будет обусловлена сферой применения, где доступ к „облаку“ или серверу будет либо невозможен, либо не целесообразен».

Бизнес признает, что ИИ-агент трудится в режиме 24/7, но, как и любое решение в RPA ,не заменяет, а усиливает команду специалистов-людей. Например, в банке ИИ-агент, созданный для кредитного анализа, не просто оценивает скор-карту, а формирует ее — запрашивает дополнительные документы, уточняет детали по чату с клиентом — уже после выработки варианта решения проводит согласование с менеджером-человеком.

Изменения существенные. «Структура работы меняется — „искусственный интеллект“ начинает работать наравне с командами, но под чутким контролем человека», — признает Тимофей Мелихов, директор центра перспективных разработок IBS.

Проникновение ИИ-агентов в бизнес-практики пойдет быстро в силу ряда причин. Во-первых, благодаря опыту, накопленному в ходе внедрения промышленных роботов и процессов RPA. Во-вторых, промышленный робот — дорогой физический актив, требующий инфраструктуры и обслуживания, а ИИ-агент — программа, размножаемая почти без затрат. Многое упрощает популяризация формата «...aaS»: один и тот же ИИ-агент-аналитик может одновременно работать на десятки и сотни заказчиков при развертывании его в «облаке», но, разумеется, с изолированными друг от друга данными пользователей.

Проникновение ИИ-агентов в бизнес-практики будет идти неравномерно. Многое зависит от цифровой зрелости отдельных компаний, но есть зависимость от вертикальных рынков.

«Лидерами по применению ИИ-агентов будут оставаться в России digital born (рожденные цифровыми) отрасли — финтех, электронная торговля, ИТ-отрасль, отрасли с массовым обслуживанием людей (например, сервисы городской мобильности), — уверен Алексей Сидорюк, советник генерального директора по «искусственному интеллекту» в Ассоциации ФинТех.

С точки зрения технологии ИИ-агенты — межотраслевая история, не имеющая отношения к какому-то отдельно взятому рынку, уверен Вячеслав Береснев: «Процесс ведения клиентов и процесс аналитики — он что в сельском хозяйстве, что в промпредприятии, что в медицине, ну понятно с локальной спецификой, но тем не менее примерно одинаковый».

Источник: Александр Маляревский, внештатный обозреватель IT Channel News