Каркас из пяти шагов
Оценка рисков ИИ — это не мнение эксперта «вроде безопасно», а воспроизводимая процедура. Шаг первый — активы: какие данные и системы попадут в контур, каков их правовой режим. Шаг второй — угрозы: что может пойти не так, по классам. Шаг третий — оценка: вероятность и ущерб по простой шкале. Шаг четвёртый — митигация: меры для красной зоны до старта пилота. Шаг пятый — остаточный риск: что осталось после мер, и осознанное решение — принимать ли. Оценку делают письменно и с датой: через год она станет исходной точкой пересмотра, и сравнение «что изменилось» окажется полезнее самой первой версии. Таблица не обязана быть красивой — её сила в повторяемости и датировке версий.
Карта типовых угроз
| Угроза | Типовой ущерб | Митигатор |
|---|---|---|
| Утечка персональных данных | Штрафы до 15 млн ₽, предписания | Закрытый контур, маскирование, права |
| Галлюцинации в ответах | Ошибочные решения клиентов, споры | RAG с источниками, человек на чувствительных шагах |
| Промпт-инъекции и джейлбрейки | Обход правил, несанкционированные действия | Фильтры входа и выхода, тесты сценариев |
| Избыточные полномочия агентов | Массовые ошибочные операции | Минимальные права, подтверждения, остановка |
| Зависимость от провайдера или подрядчика | Остановка процесса, рост цен | Права на код, резервный сценарий, AI BOM |
| Shadow AI в обход процесса | Тихие утечки через внешние сервисы | Политика, allow-list, внутренний ассистент |
Как считать вероятность и ущерб
Достаточно шкалы от одного до пяти. Вероятность: как часто встречается событие такого класса в похожих системах — ежедневно, ежемесячно, раз в год, гипотетически. Ущерб: деньги, юристы, остановка процесса, репутация. Произведение даёт ранг; всё выше порога — красная зона, требующая митигатора до пилота, а не «по мере развития». Точность здесь не главное — главное честность: оценка «пятёрка по ущербу, ну пусть будет три» — самообман, который оплакивают на разборе инцидента.
Пример: ассистент на документах отдела продаж. Утечка базы — вероятность средняя, ущерб высокий; произведение отправляет риск в красную зону, назначается митигатор — закрытый контур и маскирование телефонов. Ошибки в письмах клиентам — вероятность высокая, ущерб средний; митигатор — шаблоны и согласование человеком. Таблица заполняется построчно, и каждая строка заканчивается решением, а не тревогой.
Что почти всегда снижает риск
Замкнутый список мер, работающих в большинстве контуров: закрытый контур или данные в России по договору; RAG с фильтрацией по правам вместо загрузки «всех документов всем»; человек в контуре для необратимых действий; журналирование с первого дня; пилот на одном процессе вместо сразу «ИИ для всей компании»; ограничение круга данных на старте — пилот запускается на обезличенном срезе, реальные данные подключаются по мере подтверждения гипотез. Каждый шаг проверяем — и потому попадает в смету пилота, а не в список пожеланий. Что подготовить к пилоту в целом — в ответе «Что нужно для внедрения ИИ».
Быстрый самоконтроль зрелости защиты — тест зрелости защиты ИИ.
Как оформить результат
Итог оценки — таблица: риск, вероятность, ущерб, ранг, митигатор, владелец, срок. Согласование — на короткой встрече с подписями ответственных: решение «принять остаточный риск» должно иметь автора. Храните оценки рядом с решениями по пилоту: связка «риск — митигатор — факт внедрения» отвечает на вопрос «а что сделали» на любом совете. Без оформления оценка превращается в мнение, которое стороны помнят по-разному уже через месяц.
Жизнь оценки после пилота
Оценка устаревает вместе с контуром. Триггеры пересмотра: новые классы данных в системе, расширение на другие отделы, смена модели или подрядчика, инцидент — чужой или свой. Быстрая реакция — дополнить таблицу новыми строками и переназначить владельцев; полная — раз в год. Так документ остаётся инструментом, а не архивной справкой.
Внешняя оценка рисков с ревизией ИИ-активов — от 70 000 ₽ у ООО «НЬЮ-ССТ» (new-sst.ru); построение реестра активов для оценки — в инструкции «Как построить AI BOM с нуля» (сентябрь 2026).