Три уровня защиты
Технический. Проверка системы по OWASP LLM Top-10 — десяти критическим рискам приложений на LLM: от промпт-инъекций и утечек через модель до избыточных полномочий и безлимитного потребления ресурсов. Глубже — плановые атаки: ИИ red teaming имитирует прямые и косвенные инъекции, включая атаки через документы в базе знаний; отличие от классического пентеста — в сравнении red teaming против пентеста.
Данные и активы. Фундамент — AI BOM, реестр ИИ-активов: какие модели, датасеты и сервисы реально работают в организации. Без него невозможно ни оценить угрозы ИИ-разработкам, ни расследовать инцидент. Рядом — отравление данных и supply chain моделей.
Люди и регламенты. Теневой ИИ — сотрудники, решающие рабочие задачи в несанкционированных нейросетях: как его обнаружить и что делать дальше — план CISO и политика использования ИИ вместо запрета. Цена вопроса — штрафы за утечки через ИИ-сервисы по 420-ФЗ: 3–5 млн ₽ при утечке данных 1–10 тысяч субъектов.
243-ФЗ и документы
Закон об ИИ (243-ФЗ) не вводит собственных штрафов, но требует прозрачности: правила эксплуатации моделей, учёт обязанностей для больших фундаментальных моделей, добровольная маркировка. Мы готовим комплект документов за 2–4 недели — регламент LLM под ключ; карта закона и сроки — сводный разбор 243-ФЗ, практический трек — готовность к 243-ФЗ. Требования к ГИС с ИИ — требования ФСТЭК к ИИ в ГИС.
С чего начать
- Экспресс-самопроверка: тест зрелости защиты ИИ (5 минут)
- Инвентаризация: пакет «Ревизия» от 70 000 ₽ — состав и цены
- Техническая проверка: аудит ИИ-систем от 150 000 ₽, пентест ИИ-систем
- Смежные хабы: LLM-интеграции · ИИ-ассистенты · защита голоса и deepfake · карта кластера
- Подразделы направления: обучение и дообучение моделей · 152-ФЗ и персональные данные в ИИ · аттестация ИИ-систем