Вопрос «какую нейросеть взять» почти всегда поставлен неправильно. Правильно — «какая модель закрывает эту задачу с этим классом данных за эти деньги». Один и тот же бизнес использует три разных подхода: API для массовых типовых операций, локальную модель для персональных данных, RAG поверх готовой модели для знаний компании. Гайд помогает разложить ваши задачи по этой матрице.
Методика не привязана к вендорам: критерии универсальны, выводы делаются по вашим данным. Общий выбор «модели для компании» описан в отдельной инструкции выбора LLM для компании; здесь фокус на уровне отдельной задачи.
Цены-ориентиры — сентябрь 2026: пилот LLM+RAG на одном процессе — от 480 000 ₽ за 4–6 недель, прототип — от 90 000 ₽, полный промышленный контур — 0,9–1,2 млн ₽. Всё без НДС (УСН), по прайсу НЬЮ-ССТ.
Гайд для архитекторов, ИТ-руководителей и аналитиков: каждая задача получает режим обработки данных и модель-кандидата по явным правилам. Результат работы по гайду — таблица, которую можно положить в основу регламента: новые сценарии будут проходить отбор за минуты, а спорные случаи решаться по матрице, а не по громкости голоса на совещании.
Пошаговый план
Разложите задачи по типам
Выпишите задачи и разложите по пяти типам: вопросно-ответные сценарии по документам (Q&A), классификация обращений и документов, генерация черновиков (письма, ответы, описания), извлечение данных из документов, агентные сценарии с действиями в системах. Тип задачи определяет требования к модели сильнее, чем бренд: для Q&A решает качество RAG, для извлечения — дисциплина формата вывода, для агентов — лимиты полномочий и безопасность.
Определите класс данных каждой задачи
Для каждой задачи зафиксируйте класс данных: публичные, внутренние, персональные, государственная тайна или данные КИИ. Персональные данные, госсектор и значимые объекты КИИ — стандарт on-premise в закрытом контуре: запросы остаются внутри периметра. Задачи с меньшей чувствительностью допустимы в российских API вроде GigaChat при договоре обработки данных. Класс данных фиксирует ответственный за персональные данные — не разработчик и не заказчик «по интуиции».
Постройте матрицу «задача × режим»
Сведите тип задачи и класс данных в одну матрицу. На пересечении — режим: российский API, on-premise модель или гибрид. Например, «ответы по регламентам» на внутренних данных — RAG в облаке провайдера допустим; та же задача на персональных данных — только локальный контур. Матрица снимает 80% споров: каждый новый сценарий получает режим за минуты, а не за совещание.
Сравните кандидатов по фиксированным критериям
Для каждого режима выберите 2–3 модели-кандидата и сравните по одинаковому списку: качество русского языка, длина контекста, скорость генерации, цена вызовов, лицензия и поддержка, интеграция с вашим стеком (1С, CRM, СЭД). Критерии зафиксируйте в таблице до контакта с вендорами — иначе сравнение выиграет самый настойчивый продавец, а не самая подходящая модель.
Прогоните тестовый набор
Соберите 30–50 реальных примеров из вашей практики: типовые, пограничные и заведомо «без ответа в базе». Прогоните каждого кандидата. Смотрите на три вещи: точность ответа, честное «не знаю» вместо галлюцинации, ссылка на источник. Как собрать базу для такого теста — разобрано в гайде подготовки данных для RAG.
Посчитайте экономику режима
API оплачивается вызовами, on-premise — серверами и поддержкой. Сведите оба сценария на горизонте года: вызовы, инфраструктура, доработки, ставки специалистов (рынок — 2 800–3 800 ₽/ч). Дешёвые вызовы часто компенсируются дорогим сопровожданием, и наоборот. Если сомневаетесь — пилот с проверкой модели (от 480 000 ₽, 4–6 недель) проверяет экономику на ваших данных — до того, как вы вложитесь в контур.
Зафиксируйте решение в AI BOM
Выбранная модель, режим, основания обработки данных и критерии выбора заносятся в реестр ИИ-активов (AI BOM) — основу учёта к 243-ФЗ. Без записи модель «теряется» через квартал: никто не помнит, почему её выбрали и на каких условиях. Зафиксированное решение переносится на следующие задачи: матрица становится внутренним стандартом компании.
| Тип задачи | Внутренние данные | Персональные данные / КИИ |
|---|---|---|
| Ответы по документам (Q&A) | RAG на российском API с договором | RAG + on-premise модель в закрытом контуре |
| Классификация обращений | API-модель, контроль качества выборкой | on-premise, обезличенные данные |
| Генерация черновиков | API-модель + человек-в-контуре | on-premise + журнал промптов |
| Извлечение данных из документов | OCR + LLM по API | OCR + локальная модель без внешних вызовов |
| Агентные сценарии (действия в системах) | API + guardrails + лимиты полномочий | on-premise агент, изолированный контур, СЗИ |
Что влияет на выбор
Решение меняют четыре фактора. Класс данных — жёстче всего: персональные данные и КИИ сразу переводят задачу в закрытый контур, сколько бы ни стоил облачный вариант. Объём — при миллионах вызовов дешёвый API становится дорогим, а дорогой сервер — оправданным. Требования к точности — черновик письма простит слабую модель, юридический ответ не простит и сильной без источников. Скорость изменений рынка — модель, лучшая сегодня, через полгода может уступить новой; поэтому в матрицу закладывайте дату пересмотра, а не «навсегда».
Чек-лист
Прежде чем утверждать выбор модели, пройдите чек-лист — каждый пункт закрывает типовую причину пересмотра решения через полгода.
- Задачи разложены по типам (Q&A, классификация, генерация, извлечение, агенты)
- Класс данных подтверждён ответственным за персональные данные
- Матрица «задача × режим» построена и утверждена
- Кандидаты сравнены по фиксированным критериям в таблице
- Тестовый набор 30–50 примеров прогнан, включая вопросы «без ответа»
- Проверено поведение «не знаю» вместо выдумки
- Экономика режима посчитана на горизонте года (вызовы + инфраструктура + сопровождение)
- Для персональных данных — только закрытый контур, подтверждённый письменно
- Решение и основания занесены в AI BOM (реестр ИИ-активов)
- Определена дата пересмотра выбора (рынок моделей меняется быстро)
- Матрица допускает гибридные режимы (API для массовых + on-premise для чувствительных задач)
- Требования к точности зафиксированы отдельно для каждой задачи
Ошибки новичков
Типовые ошибки выбора «модели под задачу» — и как они обходятся дорого.
- Одна модель на все задачи. массовая классификация и агентные сценарии требуют разных компромиссов; «универсальная» модель проигрывает специализированным на каждой задаче
- Класс данных «по ощущению». решение об облаке принимает разработчик, а не ответственный за ПДн; при проверке это становится нарушением с реальными последствиями
- Тест на маркетинговых демо. красивое демо на чужих данных не гарантирует ничего на ваших; тестовый набор — только из своих процессов
- Экономика без сопровождения. сравнивают стоимость вызовов и забывают ставки специалистов (2 800–3 800 ₽/ч) и доработки — они решают исход на дистанции
- Выбор не зафиксирован. без записи в AI BOM через полгода никто не вспомнит основания — и выбор пересматривается заново, вместо переиспользования
Инструменты и сроки
Достаточно таблиц матрицы и критериев плюс тестового набора. Ориентир времени: 1–2 дня на матрицу, 2–3 дня на тестовые прогоны; пилот с проверкой модели на реальном процессе — от 480 000 ₽ за 4–6 недель.
- Матрица «тип задачи × класс данных»
- Таблица критериев сравнения моделей
- Тестовый набор из 30–50 своих примеров
Что получится в итоге
Итог — матрица выбора, ставшая внутренним стандартом: каждая задача получает режим и модель по явным правилам, а не по привычке. Новые сценарии оцениваются за минуты, решения воспроизводятся, а записи в AI BOM защищают вас при аудите и миграции. Когда через год появятся новые модели, вы пересмотрите выбор точечно — там, где это выгодно.