Чем агент отличается от ассистента
Чат-бот отвечает на вопрос. Агент получает цель и сам выбирает шаги: ищет данные, вызывает сервисы, готовит артефакты, проверяет результат. Эта разница принципиальна для госсектора: у ассистента риски сосредоточены в его ответах, у агента — в его действиях. Неправильный шаг агента — отправленное письмо, изменённая запись, запущенный процесс — имеет последствия независимо от того, кто «виноват» в промпте.
| Аспект | Ассистент | Агент |
|---|---|---|
| Роль | Консультирует | Исполняет цепочку действий |
| Основной риск | Неверный ответ | Неверное действие |
| Доступы | Читаемые данные | Инструменты и системы |
| Контроль | Оценка ответа человеком | Контроль каждого шага или порогов |
| Пример в госсекторе | Навигация по услуге | Подготовка пакета документов по обращению |
Три пояса применения
Пояс 1 — информационные сервисы. Навигация по услугам, ответы на типовые вопросы, помощь в заполнении форм. Здесь агент работает с открытыми данными, цена ошибки низкая, а выигрыш в нагрузке на окна приёма ощутимый. Развёртывание — через ИИ в госуслугах с контролем корректности ответов.
Пояс 2 — документооборот. Черновики писем и распоряжений, разбор входящих обращений, маршрутизация задач, поиск прецедентов. Результат агента — проект документа, который подписывает человек. Требования: журналирование всех генераций и запрет автопубликации.
Пояс 3 — аналитика. Сбор и сводка данных из ведомственных систем, подготовка отчётов, выявление аномалий. Критично: агент читает данные, но выгрузки наружу проходят через контроль; варианты построения контура — в разборе LLM в ГИС.
Красные линии
- Автоматическое принятие решений, затрагивающих права граждан: выплаты, отказы, регистрации. Такие решения принимает человек; полностью автономные сценарии требуют отдельного правового основания.
- Передача чувствительных данных во внешние сервисы: персональные данные ограничены 152-ФЗ, для госорганов действует запрет закупки иностранного ПО с 01.01.2025 по указу № 166, на значимых объектах КИИ — ограничения по 58-ФЗ.
- Агенты с правами изменения ведомственных систем без логирования каждого действия.
- Обучение моделей на данных граждан без правового основания.
Архитектурные требования
- Периметр. Инференс внутри защищённого контура — собственная инфраструктура или доверенное облако; логика построения — в обзоре безопасности on-premise LLM.
- Права агентов. Минимальные полномочия по принципу наименьших привилегий; отдельные учётные записи для агентов; запрет на использование человеческих учёток.
- Журналирование. Каждый шаг агента: цель, инструмент, вход, выход, решение. Логи — в SIEM; подходы описаны в материале о логах LLM.
- Пороги автономии. Действия ниже порога риска исполняются автоматически, выше — требуют подтверждения человеком. Классификация действий фиксируется политикой.
- Тестирование. До продакшена — сценарные прогоны и тесты устойчивости LLM к инъекциям: агент с доступом к инструментам усиливает цену промпт-атаки.
Модель угроз: краткая карта
Угрозы агентных систем детально разобраны в модели угроз агентного ИИ и в базовом обзоре угроз ИИ-разработкам. Коротко для руководителя: промпт-инъекция превращает агента в исполнителя чужой воли; чрезмерные права превращают ошибку в аварию; непрозрачность шагов превращает разбор инцидента в расследование. Ответ — архитектурные барьеры, а не надежда на «безопасную модель».
Дорожная карта ведомства на 2026–2027 годы
| Этап | Содержание |
|---|---|
| Пилот в поясе 1 | Информационный агент на открытых данных, метрики качества ответов |
| Регламент автономии | Классификация действий и порогов, политика человек-в-контуре |
| Контур и права | Защищённый инференс, сервисные учётки, журналирование в SIEM |
| Пояс 2 | Документооборот с подтверждением человеком, разбор инцидентов |
| Масштабирование | Метрики эффекта, обучение персонала, регулярные тесты безопасности |
Ведомствам, планирующим закупки агентных систем на 2027 год, стоит закладывать в ТЗ требования к локализации, журналированию и подтверждению статусов моделей — логика статусов описана в разборе суверенных моделей.
Нужна помощь с архитектурой пилота или оценкой рисков агентных сценариев — оставьте заявку: НЬЮ-ССТ проектирует защищённые ИИ-контуры для госзаказчиков.