Дмитрий Крюков

Сотрудники массово вооружились искусственным интеллектом, но вместо роста продуктивности компании столкнулись с лавиной некачественного контента. Внешне безупречные тексты, код и стратегии на практике нередко оказываются полными ошибок и галлюцинаций, и на их доработку уходит много времени и средств. Однако в этом виноваты не столько сами нейросети, сколько отсутствие системы контроля качества ИИ-контента во многих компаниях. О том, как ее выстроить, рассказывает Дмитрий Крюков, руководитель ИИ-направления МТС Линк.

Когда генерация обгоняет валидацию

Количество некачественного контента, созданного при помощи искусственного интеллекта, действительно растет. Это особенно заметно в маркетинге, медиа и электронной коммерции, где объемы ИИ-контента увеличиваются быстрее, чем способность компаний его валидировать. Так, по данным АКАР, в 2025 году объем задач с ИИ в рекламе вырос на 60-80%, и одновременно усилились риски деградации качества контента.

При этом от сбоев не застрахованы и другие отрасли — вот несколько показательных примеров:

  • В 2024 году клиент Air Canada обратился к чат-боту авиакомпании за уточнением правил получения скидки по тарифу для переживших тяжелую утрату. Бот выдал неверную информацию, уверенно заявив, что пассажир может купить билет по полной стоимости, а разницу запросить позже. Клиент так и поступил, но в возврате ему отказали. Air Canada попыталась переложить ответственность на чат-бота, заявив, что тот является «отдельным юридическим лицом», однако суд с этим не согласился. Авиакомпанию обязали выплатить компенсацию.
  • В 2025 году Deloitte подготовила для австралийского правительства отчет стоимостью 440 000 австралийских долларов. После публикации журналисты обнаружили в документе более десятка несуществующих ссылок и сносок. Deloitte признала ошибки, обновила отчет и согласилась частично возместить ущерб.
  • В 2025 году сервис Grammarly начал генерировать для пользователей «экспертные редакторские советы» по улучшению текстов. Нейросеть подписывала рекомендации именами специалистов, на основе публикаций которых они создавались. Эксперты выступили против — не только потому, что это делалось без согласия, но и поскольку предлагаемые советы очень часто были некачественными и противоречили их мнениям. В итоге в марте 2026 года разработчик отказался от функционала.
  • В 2025 году элитная фирма Sullivan & Cromwell подала в федеральный суд США документы, где ИИ сфабриковал ссылки на несуществующие прецеденты. В апреле 2026 года, после обнаружения ошибок, фирма принесла официальные извинения судье.

Однако важно уточнить: ИИ-контент по своей природе не является некачественным. При правильной настройке он может быть вполне конкурентоспособным. Просто внедрение искусственного интеллекта в рабочие процессы зачастую требует их полной перестройки. Компании могут генерировать в разы больше текстов, креатива и решений, но узким местом становится не генерация, а проверка и доработка: резко возрастает нагрузка на редакторов, аналитиков и продакт-менеджеров, которые должны фильтровать, уточнять и «доводить до ума» результат.

Поэтому вместе с внедрением ИИ важно в первую очередь выстроить систему контроля качества его работы. В противном случае накапливается «снежный ком» бесполезного контента — или кода, если речь идет о разработке.

Границы делегирования и уровни контроля

Контроль ИИ-контента, на мой взгляд, должен начинаться не с вычитки текста, а с ответа на вопрос: что именно мы делегируем нейросети. Если мы делегируем рутину — собрать черновик, предложить структуру, адаптировать текст под формат, убрать канцелярит — это нормально. В этом как раз и заключается польза искусственного интеллекта. Но если мы делегируем ему формулирование смыслов, позиции компании и понимание темы, то быстро получаем тот самый «ИИ-слоп»: много гладких, на первый взгляд правильных, но пустых слов.

Чтобы избежать этого, система контроля качества ИИ-контента должна включать несколько уровней:

  1. Качественный бриф. Необходимо сформулировать, зачем нужен материал, на кого он ориентирован, какую мысль мы хотим донести, на какие факты опираемся.
  2. Проверка фактуры и источников. Сгенерированный нейросетью контент — это не истина в последней инстанции, а наиболее вероятная последовательность символов, и ее достоверность необходимо перепроверять.
  3. Экспертная проверка смысла. Важно убедиться, действительно ли мы понимаем то, что утверждаем.
  4. Редакторская работа с подачей, языком и форматом. На финальном уровне текст очищается от стилистических огрехов, обретает естественное звучание и адаптируется под конкретную площадку или формат.

Усилить второй, третий и отчасти четвертый уровни помогают автоматизированные помощники — например, российские GigaCheck от Сбера, нейродетекторы от Text.ru или «Яндекса», зарубежные AI Detector и ZeroGPT.

Как понять, что ИИ-контент — не мусор

Для оценки качества ИИ-контента стоит оценивать следующие моменты:

  • Адекватность смысла: есть ли в материале понятная позиция, конкретика, аргументация, польза для аудитории. Контент должен не просто «звучать профессионально», а действительно что-то объяснять или менять в понимании читателя.

  • Точность фактов: наличие ошибок, неподтвержденных утверждений, обобщений, спорных формулировок.

  • Редакторская доработка: сколько текста пришлось переписать человеку. Если редактор оставляет 20% сгенерированного текста, а 80% переписывает, значит ИИ не ускорил работу, а просто создал иллюзию прогресса.

  • Реакция аудитории: дочитывания, сохранения, переходы, комментарии, конверсия. Но эти метрики важно оценивать аккуратно: иногда пустой, но громкий текст может дать краткосрочный эффект, а долгосрочно — снижать доверие к бренду.

Кто отвечает за результат

Нельзя перекладывать ответственность за результат с человека на искусственный интеллект. Последний не способен оценивать достоверность и последствия того, что он создает. К тому же именно компания остается автором для читателя или клиента.

Важно: если материал выходит от лица конкретного эксперта, он должен сам понимать и разделять каждую ключевую мысль. Иначе получается неприятная ситуация: текст выглядит экспертно, но человек фактически становится биороботом, который транслирует псевдомысли искусственного интеллекта. ИИ может помочь сформулировать. Но финальное «да, это моя мысль, я под этим подписываюсь» должен сказать человек.

***

Я убежден, что в перспективе выиграют те компании, которые смогут не просто внедрить искусственный интеллект, а перестроить процессы так, чтобы он приносил реальную пользу. По сути, фокус сместится от количества контента к его качеству: преимущество получит тот, кто сможет лучше проверять факты, фильтровать информацию и отвечать за результат.

Источник: