Чем ИИ-инцидент отличается от обычного
Классический инцидент — это вторжение: злоумышленник внутри периметра, действуют процедуры изоляции и расследования. ИИ-инцидент часто выглядит как штатная работа системы: пользователь «просто спросил», ассистент «просто ответил» — и в ответе оказались персональные данные другого человека. Или документ в базе знаний содержал скрытую инструкцию, и ассистент стал её выполнять. Или агент с избыточными правами выполнил деструктивную цепочку действий, каждая из которых формально «разрешена».
Отсюда две особенности реагирования. Первая — детекция: без журналирования промптов, ответов и действий агентов инцидент просто невидим, вы узнаете о нём от пострадавшего или регулятора. Вторая — часы: если затронуты персональные данные, у вас 24 часа на уведомление Роскомнадзора и 72 часа на дополнение по 152-ФЗ, а штрафы по 420-ФЗ доходят до десятков миллионов рублей и оборотных сумм при повторной утечке. Услуга закрывает и подготовку, и само реагирование.
Нормативная база
| Акт / стандарт | Что требует | Что это значит для ИИ-инцидентов |
|---|---|---|
| 152-ФЗ, ст. 21 (с учётом 420-ФЗ) | уведомление РКН об утечке: 24 часа, дополнение — 72 часа | жёсткий тайминг реагирования при утечках ПДн через ИИ-контур |
| 420-ФЗ (поправки в КоАП) | штрафы за неуведомление и повторные утечки, оборотные 1–3% | цена просрочки и необработанного инцидента |
| 187-ФЗ о КИИ | порядок реагирования для значимых объектов | сообщения в НКЦи в установленные сроки, если контур относится к КИИ |
| Приказы ФСТЭК № 21 / № 117 | регистрация событий безопасности, реагирование | какие логи и процедуры должны существовать заранее |
| OWASP LLM Top 10 (2025) | каталог типовых атак на LLM | основа плейбуков: инъекции, утечки, избыточные права, расход |
Как проходит услуга: шесть этапов
- Подготовка: план и роли. План реагирования именно под ИИ-контур: кто принимает решение об остановке ассистента, кто имеет доступ к логам промптов, кто и как подаёт уведомление. Роли, контакты, эскалация — закреплены до инцидента, а не ищутся в чатах во время.
- Плейбуки по типам инцидентов. Отдельные сценарии: утечка ПДн через ответ модели, промпт-инъекция и отравление базы знаний, злоупотребление правами агента, аномальный расход (индикатор компрометации ключей). В каждом — признаки, первые действия, критерии серьёзности.
- Детекция. Настройка контроля: журналирование промптов и выдач, правила оповещения на аномалии (массовые запросы к чужим данным, характерные паттерны инъекций, всплески расхода), связь с SIEM при его наличии.
- Локализация. По событию: остановка агентов и ассистентов, ротация ключей API, изоляция векторных индексов, ограничение доступа к затронутым данным — по плейбуку, с фиксацией времени каждого действия (это понадобится для уведомления).
- Расследование и уведомления. Восстанавливаем цепочку по логам: что спросили, что вернули, чьи данные затронуты, сколько субъектов. Готовим уведомление РКН (24 часа) и дополнение (72 часа), при необходимости — сообщения субъектам и контрагентам.
- Пост-мортем. Отчёт: причина, таймлайн, что сработало и что нет, корректирующие меры — от фильтров до прав доступа. Обновляем модель угроз и плейбуки, чтобы инцидент не повторился тем же путём.
Сроки и стоимость
| Пакет | Что входит | Срок | Цена |
|---|---|---|---|
| IR-пакет для ИИ-контура | план, плейбуки, шаблоны уведомлений, тренировочная сессия | 2–3 недели | от 70 000 ₽ |
| Разовое реагирование | локализация, расследование, уведомления, пост-мортем | по событию | от 150 000 ₽ |
| Аудит готовности к инцидентам | проверка детекции, логов и процедур на разрыв-анализ | 1–2 недели | от 150 000 ₽ |
Цены — «от», без НДС (УСН, п. 2 ст. 346.11 НК РФ). Разовое реагирование при крупных инцидентах оценивается по фактическому объёму работ после первых часов.
Документы на выходе
- План реагирования с ролями, контактами и эскалацией;
- Плейбуки по типам ИИ-инцидентов;
- Шаблоны уведомлений РКН и субъектов ПДн;
- Отчёт расследования с таймлайном и границей утечки;
- Пост-мортем с корректирующими мерами;
- Обновлённая модель угроз и правила детекции.
Кому подходит и с чего начинается готовность
Если в компании работает хотя бы один ИИ-сервис с доступом к внутренним или клиентским данным — минимальная готовность уже нужна: журналирование, ограничение прав и понятный сценарий «кого звать». Для сложных контуров (агентные цепочки, интеграции с критичными системами, обработка ПДн в масштабе) готовность оформляется полноценно: план, плейбуки, тренировки. Отдельный случай — команды, которые уже пережили инцидент: им нужен не план «с нуля», а разбор того, что не сработало, и целевая доработка процедур.
Типичные ошибки в реагировании на ИИ-инциденты
- «Выключили и забыли». Сервис остановлен, но уведомление в РКН не подано — при утечке ПДн это отдельное нарушение с собственным штрафом, поверх самого инцидента.
- Расследование без логов промптов. Команда ищет следы в сетевых журналах, которых там нет: ИИ-инцидент живёт в цепочке «запрос-выборка-ответ». Без журналирования границу утечки не доказать.
- Остановка «на сутки» без фиксации времени. Таймлайн рассыпается: кто принял решение, когда остановлен контур, когда узнали об инциденте — а именно от «когда узнали» отсчитываются 24 часа.
- Уведомление «шаблонное» без оценки субъектов. В спешке подают уведомление без числа затронутых и категорий данных — затем вынуждены дополнять и исправляться, теряя доверие регулятора.
- Возврат в строй без устранения причины. Сервис перезапускают тем же конфигом — и инцидент повторяется, теперь уже с признаками повторной утечки и оборотными санкциями.
Связанные услуги
- ИТ-поддержка и аутсорсинг — дежурная смена и эксплуатация;
- LLM-интеграции и RAG — контуры с журналированием с первого дня;
- Аттестация ИИ-систем — если контуру нужен аттестат;
- SOC и SIEM — централизованный мониторинг событий ИБ.
Как мы помогаем
НЬЮ-ССТ эксплуатирует собственные ИИ-системы и строит их для заказчиков, поэтому наши плейбуки написаны по реальным цепочкам: что реально видно в логах LLM, как останавливать агентов, чем подтверждать границу утечки. Подготовку можно пройти за три недели — до того, как часы 24/72 начнут тикать. Начало — бесплатная консультация по вашему контуру.
Итог
Готовность к ИИ-инциденту измеряется не толщиной плана, а скоростью первых решений: кто останавливает контур, где логи промптов, как подаётся уведомление за 24 часа. IR-пакет под ваш контур — от 70 000 ₽ и 2–3 недели; разовое реагирование — от 150 000 ₽ по событию. Дешевле пройти подготовку сейчас, чем искать ответы в час инцидента: закажите бесплатную консультацию по вашему ИИ-контуру.