Зачем организации свой контур
Три мотива двигают организации к локальному LLM-контуру. Первый — данные: персональные, коммерческие, служебные данные не должны уходить наружу; локальное развёртывание закрывает вопрос по построению. Второй — предсказуемость: без тарифов за токены и лимитов чужих API; экономика сравнивается через совокупную стоимость владения. Третий — регуляторный: госорганы не закупают иностранное ПО с 01.01.2025 по указу № 166, а для работы с персональными данными важна локализация обработки. Мотив «все так делают» в списке намеренно отсутствует — без задачи контур превращается в дорогую печку.
Пять критериев выбора
1. Лицензия
Открытые модели различаются лицензиями: часть допускает коммерческое использование без ограничений, часть — с условиями, отдельные веса доступны только для исследований. До интеграции проверьте: право коммерческого применения, ограничений по объёму сервиса, требования к указанию авторства. Для российских заказчиков добавляется фильтр закупок: госорганам иностранное ПО не закупишь — вопрос статусов моделей по 243-ФЗ разобран в соответствующем материале.
2. Размер и железо
Чем больше параметров, тем выше качество и дороже инференс. Практичные классы: маленькие модели для классификации и извлечения данных на одном сервере; средние — ассистенты и работа с документами; большие — сложные рассуждения, требущие серьёзных вычислительных мощностей. Ориентиры по российскому железу для инференса — в обзоре GPU и инференса. Правило: модель выбирается под задачи, железо — под модель, а не наоборот.
3. Качество на вашем языке и задачах
Публичные рейтинги слепы к вашим данным. Единственный надёжный тест — собственный набор задач: 50–200 реальных примеров с эталонными ответами, оценка качества вслепую двумя-тремя экспертами, сравнение двух-трёх кандидатов. Это дешевле, чем год эксплуатации неподходящей модели.
4. Экосистема
Вокруг модели нужен инструментарий: инференс-серверы, фреймворки дообучения, средства мониторинга. Зрелые семейства с большой экосистемой дешевле в поддержке, чем одинокие веса с GitHub.
5. Поставщик и поддержка
Для коммерческого контура важна сторона, отвечающая за обновления, патчи уязвимостей и разбор инцидентов: команда вендора, интегратор или собственная. Модель без поддержки — риск, замаскированный под экономию.
Матрица «задача — класс модели»
| Задача | Класс модели | Комментарий |
|---|---|---|
| Классификация обращений, извлечение полей | Малая | Быстро, дёшево, часто не нужен LLM вовсе |
| Ассистент по регламентам, RAG по документам | Средняя | Основной корпоративный класс |
| Черновики писем, суммаризация переговоров | Средняя | Контроль фактов обязателен |
| Сложные юридические и аналитические задачи | Большая | Дорогой инференс — считать экономику |
Процесс выбора за 6 недель
- Неделя 1: реестр задач и данных; какие классы данных попадут в контур (заодно — пополнение AI BOM).
- Недели 2–3: тестовый набор примеров с эталонами; шорт-лист моделей по лицензии и железу.
- Неделя 4: развёртывание кандидатов в стенде; слепая оценка качества на тестовом наборе.
- Неделя 5: нагрузочные тесты, замеры скорости и утилизации; расчёт TCO на 3 года.
- Неделя 6: решение и план пилота: интеграции, доступы, контур безопасности.
Российская специфика 2027 года
Два фактора отличают следующий год. Первый — регуляторный: статусы суверенных и национальных моделей с 01.09.2026 создают рамку требований для госсистем; подзаконная детализация будет уточняться — выбирайте решения, где происхождение и локализация подтверждаемы документально. Второй — рыночный: линейка российских моделей и сервисов для локального развёртывания расширяется, а выбор ускоряется; конкретные продукты оценивайте на момент закупки — рынок меняется быстро.
Чего не делать
- Не начинайте с самой большой модели «на вырост» — платите за качество, которое не используете.
- Не берите модель без проверки лицензии — «открытые веса» не всегда означают «можно всё».
- Не разворачивайте до определения задач — контур без нагрузки не доказывает ничего.
- Не экономьте на оценке качества — самый частый источник разочарования в проектах.
Подберём модель под ваши задачи на стенде: оставьте заявку. НЬЮ-ССТ разворачивает прототипы за недели, а не кварталы, и передаёт контур с документацией.