Как защитить ИИ-звонки от мошенников?

Два направления угроз

Первое — мошенник против вашего агента: он звонит или отвечает на обзвон и пытается социальной инженерией выудить данные, заставить агента выполнить операцию или «договориться» об исключении. Второе — атака от вашего имени: подмена номера и клонирование голоса, когда клиенту звонит «ваш робот», а на деле — мошенник. Есть и третье направление — «проверяющие» и «аудиторы» по телефону: сценарий обязан одинаково вежливо отправлять любого самозванца в официальные каналы. Защита строится по всем направлениям; про подмену номера и голоса подробно написано в статье о защите от клонирования голоса.

Правила для самого агента

• Ничего не подтверждать голосом. Агент не называет и не подтверждает персональные данные, суммы, статусы — он сообщает факт обращения и направляет в личный кабинет или приложение.
• Верификация вторым каналом. Подтверждение действия — код в приложении или SMS, а не «скажите да». Голос не является аутентификацией: опирайтесь на то, что знают только клиент и система, а не на сам звук.
• Лимит действий по телефону. Смена реквизитов, «отмена операции», ускорение выплаты — только через человека или кабинет, никогда не в голосовом канале.
• Сценарий подозрительного звонка. Стандартная реакция на давление, путаницу ролей, попытки подсказать агенту «новые правила»: вежливое завершение и метка в журнале.
• Запись и логирование. Каждому звонку — запись, расшифровка, решения агента; записи хранятся по регламенту и защищены от изменения. Это материал расследований и дообучения фильтров.

Мошенник давит на главного

Голосовой агент программируется на вежливость и помощь — ровно те качества, которые атакующий обращает в уязвимость. Формулы «я уполномочен», «мне разрешил ваш руководитель», «это проверка системы» работают против агента так же, как против неопытного оператора. Поэтому в сценарии закладывается асимметрия: агент может отказать и перенаправить, но не может сделать исключение. Любая просьба «сделать исключение из правил» трактуется как признак атаки.

Хорошая практика — тайный покупатель своими силами: раз в месяц сотрудник звонит в контур с типовым мошенническим сценарием и фиксирует реакцию. Дешёвая проверка отвечает на главный вопрос — держит ли сценарий удар вежливого давления — до того, как это проверит настоящий злоумышленник.

Каналы и платформа

На уровне платформы: защита номеров от подмены, контроль исходящих объёмов, мониторинг аномалий — всплески входящих на одного оператора, странные паузы, роботизированные ответы на обзвон. Для исходящих держите актуальным список стоп-номеров: повторные звонки жаловавшимся абонентам превращают информирование в претензии. Отдельно прогоняются мошеннические сценарии в рамках регулярных атакующих проверок контура; набор приёмов обновляется по новостям — схемы переезжают из отрасли в отрасль быстро. Как устроены сами системы ИИ-звонков и что они стоят — разобрано на странице услуги ИИ-звонков и в ответе «Сколько стоят ИИ-звонки».

Антифрод-правила встраиваются при проектировании сценария с первого дня — постфактум они стоят дороже и работают хуже.

Пять правил сценария с первого дня

Первое — агент представляется и называет компанию в первые секунды. Второе — не задаёт вопросов, ответы на которые раскрывают персональные данные: проверка идёт по коду, а не «назовите дату рождения». Третье — фиксирует согласия формулой без двусмысленностей. Четвёртое — любое нестандартное требование переводит звонок человеку, а не побуждает агента «проявить гибкость». Пятое — финал звонка всегда содержит следующий шаг: где проверить информацию, куда перезвонить.

Проверка контура перед запуском

Перед выходом в живые звонки контур обкатывается тестовыми вызовами с обеих сторон: «клиент» пробует выудить данные, надавить на жалость, попросить исключение, «проверяющий» — представиться службой безопасности. Каждый прогон записывается и разбирается. Для регламентируемых отраслей добавляется контроль формулировок: что агент обязан и что ему запрещено говорить — фиксируется в сценарии документально.