На что опираются вопросы теста
Чек-лист собран из того, что проверяем на реальных проектах: международные фреймворки, российские нормы и практика Red Teaming.
🧩
Международные рамки
Блоки про промпты, данные и цепочку поставок опираются на OWASP LLM Top-10 (инъекции, утечки, избыточные полномочия), тактику атакующих MITRE ATLAS и управленческую логику NIST AI RMF: инвентаризация, роли, мониторинг, реагирование.
🇷🇺
Российский регуляторный слой
Вопросы 16–20 отражают то, что спрашивают заказчики и регулятор: 243-ФЗ — закон об ИИ о национальных базовых моделях, 152-ФЗ — правовые основания обработки ПДн, плюс процедуры НКЦКИ при ФСБ России. Разбор требований простыми словами — в гайде «ИИ-комплаенс: закон об ИИ 243-ФЗ и штрафы за утечки по 420-ФЗ», ответственность за инциденты — 420-ФЗ (штрафы за утечки персональных данных по КоАП, ст. 13.11 — до 15 млн ₽ за разовый инцидент, при повторах оборотные от 20 млн ₽, до 1–3% выручки).
⚒️
Стандарт разработки
Формулировки про модели, веса и зависимости учитывают ГОСТ Р 56939-2024 — профиль защиты для процессов жизненного цикла систем ИИ: от выбора компонентов до выпуска релиза.
🎯
Практика проектов
Половина вопросов родилась не из стандартов, а из инцидентов и находок на аудитах: невидимые подписки, секреты в системных промптах, агенты с избыточными правами, «мёртвые» регламенты, о которых знают только их авторы.