Сгенерированные с помощью ИИ дипфейки, синтезирующие голос и видео, становятся «передовым» оружием дистанционных мошенников. Из-за своей сложности и дороговизны эти технологии еще не начали использоваться массово, и у рынка есть время подготовиться к борьбе с ними. О том, как современная телефония может противостоять распространению мошенников и дипфейков, рассказал рассказал технический директор «Телфин» Александр Красников.
Искусственный интеллект в телекоммуникациях стал палкой о двух концах: с одной стороны, речевая ИИ-аналитика позволяет решать многие задачи в бизнес-коммуникациях. Дело в том, что большие языковые модели способны анализировать диалоги по ключевым словам, выявляя повторяющиеся паттерны, соответствие разговора скриптам, наличие ключевых слов.
Но не только: их возможности гораздо шире. Они умеют анализировать тон разговора и контекст. В бизнесе эти способности нейросетей особенно полезны в работе контакт-центра, так как дают возможность повышать эффективность как работы операторов, так и анализа ее качества. С другой стороны, именно с помощью нейросетей создаются дипфейки: поддельные аудио и видеосообщения, имитирующие внешность и голос человека и способные запугать, обмануть, выманить конфиденциальные данные.
При этом число мошенничеств с дипфейками быстро растет: с 1 января по 1 июня 2025 года их произошло в 2,3 раза больше, чем за тот же период
Телефония против дипфейков
Современные системы телефонии играют важную роль в борьбе с дистанционным мошенничеством. Дело в том, что в них могут использоваться технологии, которые помогают сразу определить, является ли человеческий голос на другом конце интернет-соединения настоящим или поддельным. Эти программы для распознавания подделок создаются с помощью специальных наборов данных и тоже способны постоянно обучаться.
Такие услуги, которые предлагает в том числе и «Телфин», очень востребованы, учитывая то, как быстро «развивается» дистанционное мошенничество. Например, похожую, смежную задачу решает определитель автоответчика — ИИ-сервис, который может быть включен в пакет телефонии для бизнеса. Эта ИИ-программа легко распознает звук автоответчика на другом конце провода при звонках на городские и мобильные номера.
В результате снижается нагрузка на операторов, которым не приходится совершать бессмысленные звонки, и растет эффективность любых исходящих кампаний: телефонных оповещений, опросов, обращений к клиентам, продаж. Сотрудники общаются только с живыми людьми, при этом увеличивается достоверность информации, в том числе маркетинговой, а значит и точность прогнозирования результативности рекламных кампаний.
Кроме того, телеком-операторы в какой-то степени взяли на себя роль защиты всего общества от мошенничества. Они не могут заходить на поле деятельности правоохранительных органов и пытаться отслеживать содержание разговоров — таких полномочий у них нет и не должно быть. Однако операторы способны, например, определять профиль трафика клиентов, то есть отслеживать то, как они пользуются подключенными услугами связи.
Например, может насторожить подозрительная активность, когда клиент, подключивший услуги голосовой связи, начинает совершать тысячи или даже десятки тысяч вызовов. В этом случае понятно, что, скорее всего, речь идет о деятельности, которая нарушает установленные правила. Другой пример: клиент подключился, но использует услуги связи из других мест, которые постоянно меняются. Это заставляет как минимум подозревать, что он передал их другим лицам. В некоторых случаях телеком-операторы могут отказывать подозрительным клиентам в подключении или вмешиваться в их работу после.
Однако между пользой и вредом от таких защитных действий проходит очень тонкая грань. Дело в том, что клиент может использовать абсолютно легитимную схему работы, которая тем не менее будет распознана антифрод и антиспам-фильтрами как мошенническая. Проблема в том, что пока отсутствуют четкие правила игры и стандарты в этой сфере, и операторы связи по разным причинам могут посчитать те или иные номера теми, которые используются в «серых» схемах. Решению этой проблемы отчасти помогает введение маркировки звонков, когда оператор видит, кем совершается вызов.
Нужно ли ужесточать регулирование в борьбе с дипфейками?
Необходимость борьбы с мошенничеством и социальной инженерией уже привела к тому, что телеком-отрасль работает в довольно жестких рамках законодательных ограничений и правил. В этих условиях дальнейшее усиление регулирования будет нести слишком высокие риски для участников рынка. Тем более что большая часть нововведений в законодательство о связи было введено «залпом» в последние четыре года, что уже стало тяжелым бременем для игроков.
В таких условиях, как минимум, сложно планировать и внедрять новый функционал услуг связи. Сейчас рынок нуждается не в новой серии запретов с целью уничтожить дипфейки, а в точечных решениях конкретных проблем. При этом регуляторика, разумеется, должна меняться, чтобы соответствовать новым рискам, которые влечет использование нейросетей и социальной инженерии в мошеннических практиках. Кроме того, она должна учитывать новые тренды телеком-рынка.
Телефония будущего: всё тайное станет явным
До последнего времени четко прослеживался тренд на сокращение объема голосовых коммуникаций и рост популярности текстовых каналов. Например, исследование Yota показало, что он актуален не только для бизнеса, но и для рядовых пользователей: за 2025 год голосовой трафик на одного абонента сократился на 12%, а мобильный вырос на 15%.
Бизнес также все более активно переходит на текстовые каналы общения, как внутрикорпоративные, так и в клиентском сервисе. Сейчас этот процесс затормозился в связи с ограничениями на использование мобильного интернета: пользователи стали чаще говорить по телефону. Однако в перспективе востребованность мессенджеров обязательно продолжит расти по мере того, как связь снова будет становиться доступной в любой момент.
Второй важный тренд: рост числа автоматизированных коммуникаций, когда живых операторов заменяют голосовые роботы. Компаниям необходимо оптимизировать затраты на сервис и поддержку, а значит, этот процесс не остановить, даже при всех опасностях, которые может нести с собой использовать ИИ-ассистентов и ботов. А они не надуманы: известны случаи, когда пользователи агентов дают им поручения приобрести тот или иной товар, а те идут на фишинговые сайты и делают там покупки дорогих вещей.
Кроме того, боты часто ошибаются, а их ошибки стоят компаниям немалых потерь. Однако это все-таки приходится отнести к неизбежным издержкам прогресса. В дальнейшем голосовые роботы будут становиться все более умными и адаптивными: нейросети смогут почти полностью имитировать живой диалог с человеком. Это еще сильнее повысит уровень рисков мошенничества, а с другой стороны, будет вызывать множество спорных ситуаций в сервисе.
Не случайно уже сегодня участники рынка выдвигают инициативы о том, чтобы вся информация, которая создается ИИ или с его помощью и используются в коммуникациях, была соответствующим образом промаркирована. Возможно, в недалеком будущем при каждом диалоге с роботом абонента будут предупреждать о том, что он имеет дело с ИИ. Это станет правильным шагом на пути защиты пользователей от манипуляций.
Пользователям же стоит более внимательно относиться к голосовому общению, особенно если оно сопровождается повышенным накалом эмоций. Ведь именно ими так умело пользуются мошенники, когда выдают себя за близких родственников жертвы, попавших в беду. Поэтому так важно обязательно проверять ту информацию, которая приходит по телефону, альтернативными способами. Особенно если собеседник обратился с необычной просьбой.
Источник: Александр Красников, технический директор «Телфин»
