27 января 2026 г.

По прогнозу компании Gartner, Inc., к 2028 году 50% организаций внедрят подход zero trust (нулевого доверия) в управлении данными на фоне стремительного распространения непроверенных данных, сгенерированных искусственным интеллектом.

«Организации больше не могут автоматически доверять данным или предполагать, что они созданы человеком, — отмечает Ван Фуи Чан, управляющий вице-президент Gartner. — По мере того как ИИ-контент становится повсеместным и неотличимым от данных, созданных людьми, подход нулевого доверия с обязательной аутентификацией и верификацией становится критически важным для защиты бизнес- и финансовых результатов».

Данные, созданные ИИ, усиливают риски деградации моделей и требования к соблюдению регуляций

Большие языковые модели (LLM) обычно обучаются на данных, собранных из интернета, а также из книг, репозиториев кода и научных публикаций. Часть этих источников уже содержит ИИ-сгенерированный контент, и при сохранении текущих тенденций практически все они со временем будут наполнены такими данными.

Согласно опросу Gartner среди CIO и технологических руководителей за 2026 год, 84% респондентов ожидают увеличения инвестиций в генеративный ИИ в 2026 году. По мере ускорения внедрения ИИ и роста вложений объем данных, созданных ИИ, будет продолжать расти. Это означает, что будущие поколения LLM будут все чаще обучаться на результатах работы предыдущих моделей, что повышает риск так называемого «коллапса модели» — ситуации, при которой ответы ИИ перестают адекватно отражать реальность.

«По мере распространения ИИ-контента регуляторные требования к верификации „не-ИИ-данных“ в ряде регионов будут усиливаться, — говорит Чан. — При этом подходы разных стран могут сильно различаться: где-то будут вводиться жесткие ограничения, а где-то регулирование останется более гибким.

В таких условиях всем организациям потребуется уметь идентифицировать и маркировать данные, созданные ИИ. Успех будет зависеть от наличия подходящих инструментов, компетентных специалистов в области управления знаниями и информации, а также решений для работы с метаданными, необходимых для каталогизации данных».

Активное управление метаданными станет ключевым конкурентным преимуществом, позволяя организациям анализировать данные, формировать оповещения и автоматизировать принятие решений на основе своих информационных активов.

Управление рисками, связанными с ростом непроверенных ИИ-данных

Для снижения рисков, связанных с распространением непроверенных данных, Gartner рекомендует организациям рассмотреть следующие стратегические шаги:

  • Назначить лидера по управлению ИИ. Создать отдельную роль, ответственную за AI-governance, включая политику нулевого доверия, управление рисками и вопросы соответствия требованиям. Этот специалист должен тесно взаимодействовать с командами по данным и аналитике, обеспечивая готовность данных к использованию ИИ.
  • Развивать межфункциональное взаимодействие. Сформировать кросс-функциональные команды с участием специалистов по кибербезопасности, данным и аналитике для проведения комплексной оценки рисков, связанных с ИИ-данными, и определения, какие из них покрываются текущими мерами безопасности, а какие требуют новых подходов.
  • Использовать существующие политики управления. Опираясь на текущие модели управления данными и аналитикой, обновить политики безопасности, работы с метаданными и этики с учетом новых рисков, связанных с ИИ-контентом.
  • Внедрять активные практики управления метаданными. Это позволит в реальном времени получать сигналы о том, что данные устарели или требуют повторной верификации, и своевременно выявлять ситуации, когда критически важные бизнес-системы могут опираться на искаженные или предвзятые данные.

Источник: Пресс-служба компании Gartner