По прогнозу аналитической компании Gartner, уже к 2028 году расходы на использование ИИ-инструментов для разработки программного обеспечения превысят среднюю заработную плату разработчика. Причиной станет стремительный рост потребления токенов — единиц данных, которые обрабатывают большие языковые модели.

По оценке Gartner, рынок быстро переходит от простых ИИ-помощников для написания кода к автономным агентным системам, способным самостоятельно проектировать, тестировать, исправлять ошибки и выполнять сложные цепочки задач. Такие инструменты требуют значительно большего объема вычислительных ресурсов и, соответственно, токенов.

Аналитики отмечают, что снижение стоимости обработки одного токена не приведет к уменьшению общих расходов. Напротив, по мере развития агентных ИИ-систем потребление токенов растет быстрее, чем снижается их цена. В результате совокупные затраты компаний на использование ИИ продолжают увеличиваться.

В Gartner подчеркивают, что агентные модели могут потреблять в 5–30 раз больше токенов на выполнение одной задачи по сравнению с обычными генеративными чат-ботами. При этом количество выполняемых ими операций существенно выше, что дополнительно увеличивает нагрузку на инфраструктуру.

По данным Gartner, уже сегодня руководители ИТ-подразделений сталкиваются с резким ростом расходов на ИИ-разработку. В отдельных случаях затраты на использование агентных средств программирования оказываются до 100 раз выше по сравнению с традиционными ИИ-ассистентами для написания кода.

В связи с этим Gartner рекомендует организациям внедрять практики контроля потребления токенов, использовать специализированные модели для типовых задач и ограничивать применение наиболее дорогих моделей сценариями, где требуется сложное рассуждение и высокая добавленная стоимость.

Эксперты компании также ожидают, что в ближайшие годы контроль расходов на ИИ станет такой же важной задачей для бизнеса, как ранее управление затратами на облачную инфраструктуру.

Источник: