Зачем переносить модель внутрь периметра
Когда компания пользуется облачным API, каждый промпт — включая фрагменты документов и персональные данные — уходит в контур провайдера. Для большинства неконфиденциальных задач это допустимо и закреплено договором обработки данных. Но как только в процессе появляются персональные данные, коммерческая тайна или требования госсектора, единственным безопасным вариантом становится локальный (закрытый) контур: модель и база знаний работают на инфраструктуре, которую контролирует сама организация.
Что даёт такой перенос на практике:
- промпты и ответы физически не выходят за периметр компании;
- нет зависимости от тарифов и доступности внешнего API;
- проще пройти проверки: журнал запросов, разграничение доступа и шифрование — под вашим контролем;
- выполнимы требования 152-ФЗ к обработке персональных данных без трансграничной передачи.
Пошаговый план перевода
- Аудит процессов и данных (3–5 рабочих дней, от 90 000 ₽). Определяем процессы под автоматизацию, категории данных и требования законодательства.
- Выбор модели. Из открытых моделей подбирается та, что даёт нужное качество именно на ваших задачах при доступном «железе».
- Развёртывание. Модель и векторная база устанавливаются на ваши серверы или выделенный VPS в РФ; настраивается инференс.
- База знаний и интеграции. Документы индексируются (RAG), система подключается к рабочим инструментам: 1С, СЭД, helpdesk, CRM.
- Пилот и метрики. 4–6 недель реальной работы: доля автоматических ответов, время обработки, доля ошибок.
Что понадобится с вашей стороны
| Компонент | Назначение | Комментарий |
|---|---|---|
| Серверы с ускорителями | Запуск модели (инференс) | Конфигурация зависит от размера модели и нагрузки |
| Векторная база | Хранение и поиск по фрагментам документов | Разворачивается в том же контуре |
| Регламент использования ИИ | Правила для сотрудников | Запрещает вставлять конфиденциальное в публичные сервисы |
| Мониторинг и журналы | Контроль запросов и качества | Основа расследований и аудитов |
Сколько это стоит и сколько длится
Пилот изолированного контура — от 480 000 ₽ за 4–6 недель: в цену входит развёртывание модели, RAG-контур по вашим документам и интеграция в одну систему. Аудит — от 90 000 ₽, полный промышленный контур — 0,9–1,2 млн ₽, сопровождение — от 50 000 ₽ в месяц. Всё — цены сентября 2026 года, без НДС (УСН).
Типичные ошибки при переводе
Первая — переносить «всё и сразу»: начинать нужно с одного процесса, где эффект измерим. Вторая — забыть про сотрудников: без регламента люди продолжат пользоваться публичными сервисами в обход вашего контура (это называют shadow AI). Третья — экономить на безопасности самой базы знаний: доступ к фрагментам должен наследовать права исходных документов.
Готовые материалы по теме: определение on-premise LLM, безопасность закрытых контуров в цикле «Технологии-2027», практика для госорганизаций — on-premise для госструктур и ИИ в закрытом контуре. Вопросы персональных данных разобраны в материале 152-ФЗ и ИИ; остальные ответы — в разделе «Вопросы и ответы».
Что меняется для ИТ-отдела после перевода
Локальный контур — это не «поставили и забыли»: у системы появляется жизненный цикл, которым кто-то управляет. Что добавляется в обязанности ИТ-команды или подрядчика на сопровождении:
- мониторинг доступности — время ответа модели, загрузка ускорителей, деградация под нагрузкой;
- обновления моделей — выход новых версий открытых моделей даёт прирост качества, но каждое обновление сопровождается регрессионным тестом на вашем наборе вопросов;
- бэкапы и восстановление — векторная база и настройки промптов резервируются наравне с корпоративными данными;
- контроль доступа — периодическая ревизия прав на фрагменты базы знаний;
- журналы — ротация и хранение в согласованном с политикой безопасности режиме.
Если собственной команды нет, эти функции берёт подрядчик: сопровождение контура — от 50 000 ₽ в месяц. Практика показывает, что компании, заложившие сопровождение сразу, получают предсказуемое качество; те, кто сэкономил, через полгода обнаруживают, что база знаний устарела, а метрики деградировали. Планируйте жизненный цикл с первого дня — это дешевле, чем перезапуск проекта.
Итог: перевод LLM в локальный контур — это в первую очередь проект по данным, а не по нейросетям. Определите процесс и категории данных, выберите модель по тестам на ваших задачах, разверните контур с RAG и правами доступа — и подтвердите результат метриками пилота. Данные при этом никуда не уходят, а требования регуляторов выполняются архитектурно, без героических усилий постфактум. План переноса под вашу инфраструктуру и вилку стоимости мы готовим за один рабочий день после разбора задачи.