Что именно ищем
Цель обнаружения — не «поймать человека», а получить четыре списка: какие ИИ-сервисы используются, кем и в каких отделах, какие данные через них проходят, какие интеграции уже вкручены в рабочие системы. Причины найденного почти всегда невинны — людям нужен был инструмент вчера. Поэтому тон операции — аудит, а не охота; от этого зависит честность данных.
Каналы обнаружения
Опрос и интервью. Анонимный опрос даёт первую оценку охвата: обычно пользуются заметно больше сотрудников, чем думает руководство. Интервью с лидами команд уточняют сценарии: что генерируют, что загружают, что подключают. Честности помогает формулировка «мы легализуем, а не наказываем» — иначе получите социально желательные ответы.
Логи веб-прокси и шлюза. Технический источник истины: обращения к известным доменам ИИ-сервисов, объёмы трафика, время. Карта по отделам показывает не только факт, но и интенсивность. Ограничение: личные устройства и мобильный интернет невидимы — прокси показывает нижнюю границу, а не всю картину.
DNS-запросы. Там, где полный проксирование не развёрнуто, DNS даёт дешёвую телеметрию: частые резолвы к доменам нейросетей выдают устойчивые привычки даже без разбора содержимого.
Браузерные расширения. Самый недооценённый канал: ИИ-помощники сидят в браузере, читают страницы, а нередко — и поля форм с конфиденциальными данными. Инвентаризация установленных расширений через MDM или политики браузера обязательно входит в программу.
DLP-сигнатуры и наблюдение за выгрузками. Классическая DLP ловит перенос чувствительного контента: характерные паттерны промптов, массовые вставки в веб-формы, загрузки файлов на внешние ресурсы. Настройка под ИИ-каналы — отдельный класс правил, который добавляют к действующей политике контроля выгрузок.
Токены и подписки. Корпоративные карты и отчёты о расходах находят платные подписки; секреты в репозиториях и переменных окружения выдают самодельные интеграции с API моделей. Поиск таких токенов — заодно и вопрос безопасности ИИ-генерации кода.
Соединяем в реестр
Данные из шести каналов сводятся в один документ — реестр ИИ-активов: сервис, сценарий, категории данных, число пользователей, статус «разрешён / под вопросом / запрещён». Именно реестр превращает разовый аудит в управляемый процесс: у каждого пункта появляется владелец и решение.
| Источник | Что даёт | Ограничение |
|---|---|---|
| Опрос | охват и сценарии | занижение при страхе наказания |
| Прокси-логи | факты, объёмы, карта по отделам | не видит личные устройства |
| DNS | дешёвая телеметрия | без деталей содержимого |
| Расширения браузера | скрытые читатели страниц | нужен MDM или политики |
| DLP | перенос чувствительных данных | требуется настройка правил |
| Токены и подписки | самодельные интеграции | по мере обнаружения |
Кадровый аспект
Обнаружение работает только при психологической безопасности: если аудит превращается в повод для выговоров, следующая волна уйдёт в мобильный интернет, и увидит её только инцидент. Правильная последовательность: объявить амнистию за честность, опубликовать правила (основа — политика использования ИИ), дать удобный легальный путь, и только затем включать контроль мер. Так обнаружение становится сервисом, а не надзором.
Куда ведут результаты
Каждая находка — одна из трёх судьб. Разрешить: массовый безобидный сценарий легализуется и закрывается корпоративной подпиской. Перевести: чувствительный сценарий переезжает в закрытый контур — корпоративный шлюз или on-premise. Запретить: точечно, для категорий данных, где риск не оправдан. Обзор причин, почему это важно, — в материале что такое shadow AI; план действий службы безопасности после инвентаризации — в плане CISO по нейросетям.
Ритм и метрики зрелости обнаружения
Разовое обследование даёт снимок, который устаревает за квартал. Зрелый процесс живёт в трёх ритмах. Ежемесячно: смена телеметрии — новые домены ИИ-сервисов в правилах прокси и DLP, свежие типы расширений в инвентаризации. Ежеквартально: полный проход по реестру — что легализовано, что заблокировано, что появилось за период. Ежегодно: пересмотр самой рамки — категории данных, пороги чувствительности, состав команды. Метрики зрелости просты: доля обнаруженных сервисов, попавших в реестр с первой попытки; среднее время от появления сервиса в телеметрии до решения о нём; число инцидентов с участием несанкционированных инструментов. Растущая первая метрика и падающая третья — признак того, что тень сжимается, а процесс дышит.
И последнее о рамках дозволенного: обнаружение — не лицензия на тотальную слежку. Программа работает, когда сотрудники видят в ней пользу для себя: быстрое одобрение нужных сервисов, помощь с настройкой, защиту от неприятностей лично для них. Такой баланс между прозрачностью контроля и уважением к людям — не украшение процесса, а условие его работоспособности: тень, которую загоняют в угол, не исчезает, а учится прятаться лучше.