Около 13 недель занимает построение промышленного ИИ-контура в корпорациях. Для этого компаниям придется пройти через масштабные изменения на пяти важнейших для бизнеса уровнях. Об этом на форуме Kazan Digital Week рассказал заместитель руководителя направления «Искусственный интеллект» ИТ-холдинга Т1 Сергей Карпович.
Первые ИИ-проекты нередко возникают в разных подразделениях независимо друг от друга: одна команда создаёт помощника для работы с обращениями, другая — ассистента для подготовки документов, третья экспериментирует с аналитикой данных. Такой подход позволяет быстро проверить гипотезы, но при тиражировании может приводить к повторяющимся расходам, несовместимым базам знаний и разным правилам доступа к информации.
Количество запущенных ассистентов само по себе не является результатом. Руководителю важно видеть, какие модели и агенты работают в ведомстве, какие данные им доступны, сколько стоит каждая операция и кто отвечает за качество и риски. Для этого нужен единый контур управления ИИ, а не просто объединение уже проведённых пилотов.
Переход к такой модели требует изменений на пяти уровнях.
- Первый уровень — модели. Доступ к ним должен централизоваться через единую точку в защищённом контуре, где действуют общие правила, ограничения и механизмы контроля.
- Второй уровень — знания. Разрозненные базы необходимо заменить общим семантическим слоем. Система должна находить сведения в проверенных нормативных документах, регламентах и ведомственных источниках, а сотрудник — видеть, на основании чего подготовлен ответ.
- Третий уровень — цифровые сотрудники. Всех ИИ-агентов следует включить в общий реестр. Для каждого из них необходимо зафиксировать владельца, назначение, версию, доступные операции и жизненный цикл.
- Четвёртый уровень — экономика. Наряду с бюджетом проекта необходимо измерять стоимость конкретной операции — обработки обращения, документа или заявки. Это позволяет сравнивать эффект от внедрения с исходными показателями процесса.
- Пятый уровень — риски. Контроль нужно выстраивать не только после выполнения действия, но и до него: через ограничения доступа, обязательные согласования, журналирование операций и возможность перехода к ручному режиму.
Значение такого контроля возрастает по мере того, как ИИ переходит от подготовки ответов к выполнению действий в государственных информационных системах.
Ошибка при подготовке справки и ошибка при выполнении операции — это разные уровни риска и ответственности. Поэтому границы полномочий ИИ нужно определять заранее. Изменение критичной записи или отправка юридически значимого документа должны требовать подтверждения человеком, а архитектура — предусматривать остановку системы и возврат к ручному процессу.
Для российского госсектора принципиально важно предусматривать размещение моделей, данных и исполнения агентов в защищённом контуре уже при выборе архитектуры и подрядчиков, а не переносить эти вопросы на этап промышленного запуска.
Аналогичные принципы управляемости закладываются и в зарубежные модели. Великобритания включает в число государственных принципов применения ИИ понимание ограничений технологии, управление жизненным циклом системы и осмысленный человеческий контроль. Сингапур предлагает ограничивать автономию агентов, предоставлять им минимально необходимые права и расширять полномочия постепенно — после тестирования и с постоянным мониторингом.
Рекомендую начинать переход к целевой модели с одного процесса, у которого есть ответственный владелец, измеримый результат и ограниченный уровень риска. За 13 недель можно пройти путь от анализа процесса и фиксации исходных показателей до создания и проверки ассистента, его ограниченной эксплуатации и оценки результатов. Этот срок является ориентиром для одного процесса: фактическая продолжительность зависит от готовности данных, количества интеграций и требований безопасности.
Запуск ассистента не завершает работу по управлению ИИ. Качество, стоимость операций и риски необходимо оценивать постоянно. Если первый сценарий подтвердил эффект, следующие можно масштабировать на общей платформе — с уже созданными моделями, источниками знаний, интеграциями и правилами контроля.
Источник: Сергей Карпович, заместитель руководителя направления «Искусственный интеллект» ИТ-холдинга Т1
Иллюстрация предоставлена пресс-службой компании
