Две роли ИИ в финсекторе
Роль защитная: устойчивость и антифрод
Здесь ИИ уже стандарт индустрии. Антифрод-модели выявляют подозрительные операции в реальном времени: поведенческие паттерны, аномалии устройств, связи между счетами. Мониторинг операционной устойчивости ловит аномалии в работе систем до того, как они станут инцидентом. Регуляторная логика процессов описана положениями Банка России об операционной устойчивости (актуальную редакцию сверяйте на cbr.ru — нумерация документов периодически меняется).
Отдельный фронт 2026–2027 годов — дипфейк-фрод: генерация голоса руководителя для авторизации платежа, поддельные видео для идентификации. Противодействие строится на процедурном слое: регламенты подтверждения платёжных поручений через второй канал, кодовые подтверждения, лимиты на голосовые распоряжения. Технологические детекторы развиваются, но процедурная верификация остаётся базой.
Роль функциональная: клиентские и операционные процессы
Чат-ассистенты поддержки, предзаполнение документов, персональные предложения, автоматизация внутренних процессов (разбор обращений, подготовка отчётности). Здесь риски другого рода: некорректный ответ клиенту, утечка данных через диалог, дискриминационные решения. Требования: контроль качества ответов, ограничения тем, журналирование диалогов, человек-в-контуре для решений с последствиями — принципы разобраны в разборе человек-в-контуре.
Рамка комплаенса: четыре контура
| Контур | Что требует | Риск при нарушении |
|---|---|---|
| Персональные данные клиентов | 152-ФЗ: основания, локализация, меры; штрафы за утечки по 420-ФЗ | Штрафы 3–20 млн ₽ и оборотные при повторной утечке |
| Операционная устойчивость | Положения ЦБ: управление ИТ-рисками, инциденты, непрерывность | Предписания, меры надзора |
| Внутренний контроль | Порядок вывода моделей в процессы, объяснимость решений | Санкции за необоснованные отказы/операции |
| Модельный риск | Валидация, мониторинг качества, дрейф | Финансовые и репутационные потери |
Комбинация контуров и делает финсектор самым требовательным заказчиком ИИ: мало сделать работающую модель — надо доказать, что она управляема.
Типовые сценарии и их риски
- Скоринг и автоматические решения. Объяснимость обязательна: клиент вправе понять отказ. Модели валидируются, решения дискриминационного характера недопустимы.
- Чат-ассистенты. Ограничение тем, запрет выдачи данных другого клиента, контроль цитирования источников, фильтры утечек. Атаки промпт-инъекциями на банковских ботов — рабочий вектор злоумышленников; базовая систематика — OWASP LLM Top-10.
- Голосовые ассистенты. Двойной риск: неверная команда и подделка голоса клиента. Верификация клиента не должна опираться только на голос.
- ИИ в СОИБ/SOC. Детекты аномалий, приоритизация — защитная роль с относительно низким риском; лучший первый проект.
Дорожная карта применения ИИ к 2027 году
- Реестр моделей. Все модели организации с назначенными владельцами — основа управления; методика — AI BOM.
- Модельный риск-менеджмент. Для каждой модели: валидация перед вводом, метрики качества, мониторинг дрейфа, план отката.
- Журналирование. Диалоги и решения — в журналах, интегрированных с SIEM и SOC.
- Тесты безопасности. Проверка ассистентов на инъекции и обход фильтров до и после обновлений — практика ИИ-RED.
- Обучение. Сотрудники знают границы применения ИИ и порядок эскалации при странностях модели.
Что учитывать при закупках
Финансовые организации закупают по 223-ФЗ или 44-ФЗ в зависимости от статуса. Требования к ИИ-сервисам формулируются через функциональные характеристики с учётом нацрежима. В ТЗ закладывайте: локализацию обработки данных клиентов, журналирование, валидацию качества на приёмке, условия сопровождения моделей. Дежурная ошибка — закупка «ИИ-модуля» без требований к объяснимости и контролю: при первой же проверке или инциденте модуль оказывается неуправляемым.
Финансовым организациям и их подрядчикам — заявка: НЬЮ-ССТ сопровождает внедрение ИИ в регулируемых процессах: от аудита до тестов на атаки.