Компания Gartner предупредила участников рынка о росте практики так называемого agent washing — ситуации, когда поставщики программного обеспечения называют свои продукты «агентными ИИ-системами», хотя фактически они остаются обычными чат-ботами, ассистентами или RPA-инструментами без реальной автономности.

По оценке аналитиков, рынок supply chain planning сейчас переживает волну маркетингового ажиотажа вокруг агентного ИИ. Многие вендоры позиционируют существующие решения как «AI agents», несмотря на отсутствие у них ключевых характеристик настоящих автономных систем — способности самостоятельно планировать действия, координировать задачи между системами и принимать решения без постоянного участия человека.

Gartner отмечает, что компании рискуют инвестировать в технологии, возможности которых существенно преувеличены. Аналитики подчеркивают: организациям необходимо тщательно проверять, насколько заявленные «агентные» функции действительно способны выполнять автономные процессы в управлении поставками, а не просто автоматизируют отдельные задачи.

При этом интерес к агентному ИИ в цепочках поставок продолжает быстро расти. По прогнозу Gartner, к 2030 году около 60% компаний, использующих SCM-платформы, внедрят агентные ИИ-функции — против примерно 5% в 2025 году.

Отдельный тренд — переход от аналитического ИИ к системам, способным автоматически реагировать на сбои и управлять операциями в реальном времени. Gartner прогнозирует, что к 2031 году до 60% нарушений в цепочках поставок будут устраняться без участия человека.

Однако аналитики предупреждают: массовое внедрение автономных агентов несет не только преимущества, но и новые риски.

Среди ключевых проблем Gartner и отраслевые эксперты выделяют:

  • недостаточную зрелость технологий;
  • отсутствие единых стандартов управления агентами;
  • сложность контроля решений ИИ;
  • рост киберрисков;
  • «сползание» компаний в хаотичное развертывание тысяч ИИ-агентов без централизованного управления.

Дополнительную угрозу создают так называемые «цепочки поставок ИИ-агентов». Недавние исследования показывают, что сторонние модули и навыки для ИИ-агентов могут использоваться для скрытых атак, обходящих традиционные механизмы безопасности.

Поэтому Gartner рекомендует компаниям не поддаваться на маркетинговые заявления и оценивать агентные ИИ-системы по конкретным критериям:

  • степени автономности;
  • способности работать между несколькими системами;
  • наличию механизмов контроля и аудита;
  • объяснимости решений;
  • устойчивости к ошибкам и сбоям.

Аналитики считают, что ближайшие несколько лет станут периодом «очищения рынка»: интерес к агентному ИИ сохранится, но заказчики начнут гораздо жестче разделять реальные автономные платформы и продукты, где «агентность» существует только в маркетинговых материалах.

Источник: