Роль 1: ИИ как усилитель защиты
Защита критической инфраструктуры генерирует потоки событий, которые человек физически не просматривает. Машинное обучение берёт на себя три задачи:
- Обнаружение аномалий. Отклонения телеметрии, сетевого трафика, поведения пользователей от нормальных паттернов — сигнал для аналитика. Развёртывание — в контуре SOC с ИИ-мониторингом.
- Приоритизация. Оценка критичности событий и уязвимостей: что тушить первым. Модель поднимает наверх то, что эксплуатируется в реальных кампаниях.
- Поддержка расследований. Сбор цепочки инцидента по журналам, реконструкция атаки, черновики отчётов.
В этой роли ИИ ошибается безопасно: неверная приоритизация стоит времени аналитика, а не остановки конвейера. Поэтому ИИ-защита внедряется проще, чем ИИ-управление.
Роль 2: ИИ как функциональный компонент
Технологические процессы критической инфраструктуры применяют модели для оптимизации режимов, прогноза нагрузки и отказов, поддержки ремонтов. Здесь цена ошибки другая: модель участвует в управлении физическим процессом. Требования жёстче — верифицируемость, ограничение зоны управления, предохранительные контуры независимые от ИИ, и человек в петле для критичных режимов — логика человека-в-контуре переносится напрямую.
| Аспект | ИИ для защиты | ИИ в управлении процессом |
|---|---|---|
| Цена ошибки модели | Время аналитика | Технологический риск |
| Обязательные контуры | Журналирование, проверка детектов | Независимые защиты, человек-в-контуре |
| Скорость внедрения | Быстрее | Длинные циклы испытаний |
| Регуляторный фон | Общие требования ИБ | Отраслевые нормы + требования к КИИ |
Что требует законодательство
Для значимых объектов КИИ: иностранное ПО — только по исключениям и планам замещения с 1 сентября 2025 года (58-ФЗ); с 1 января 2028 года — запрет ввода новых зарубежных ПАК. ИИ-решения попадают под эти режимы как программные компоненты: при закупке проверяйте происхождение и статус в реестре отечественного ПО. Общие рамки — в курсе на 2028 год.
Закон об ИИ 243-ФЗ добавляет статусы суверенных и национальных моделей (с 01.09.2026) — базу для требований о применении отечественных моделей в государственных системах; случаи обязательности будет определять Правительство. Для субъектов КИИ с государственным участием это второй фильтр происхождения технологий.
Защита самих ИИ-компонентов
Модель в контуре КИИ — актив, который надо защищать по общим правилам и специфике ИИ:
- Периметр модели. Инференс внутри защищённого контура; архитектура — по разбору закрытых LLM-контуров.
- Данные обучения и работы. Телеметрия процессов — чувствительная информация: режимы доступа, обезличивание для аналитики, контроль выгрузок.
- Атаки на модели. Отравление данных, adversarial-воздействия, кража модели — классы угроз разобраны в обзоре угроз ИИ.
- Верификация решений. Регулярные тесты качества и безопасности: дрейф данных меняет поведение модели; без контроля деградация незаметна.
- Журналирование. Входы, выходы, решения — материал расследований и аудита соответствия.
Практика внедрения: три принципа
Начинайте с наблюдения, не с управления. Первые проекты — детекты и аналитика, где ошибка модели не влияет на процесс. Управленческие сценарии — после накопления доверия и статистики.
Изоляция и минимальные права. Модель получает доступ к данным и системам в объёме сценария; интеграционные учётки — отдельные и ограниченные. Правила — из модели угроз агентного ИИ: чем больше у модели инструментов, тем строже контроль.
Проверяемость. Для регулятора и собственной уверенности: как модель обучена, на каких данных, какими были приёмочные испытания, что с дрейфом. Пакет документации собирается с первого дня, а не к проверке.
Ошибки, которые встречаются в отрасли
- Облачный ИИ-сервис подключён к телеметрии процессов без оценки режима данных — типовое нарушение периметра.
- Модель управляет процессом без независимых предохранительных контуров — весь риск на качестве модели.
- Один раз обучили и забыли: дрейф данных снижает качество детектов, но никто не меряет.
- ИИ-компонент не включён в документацию объекта — при категорировании и проверках он «невидим».
Оценить применимость ИИ на ваших объектах КИИ и защитить контур — заявка: НЬЮ-ССТ проектирует ИИ-решения для критической инфраструктуры в рамках действующих требований.