Коротко о разнице
- RAG — модель отвечает, опираясь на найденные фрагменты вашей базы знаний. Знания живут снаружи модели, в вашем хранилище.
- Дообучение (fine-tuning) — модель дополнительно обучают на ваших примерах, знания «вшиваются» в веса модели.
Подробный разбор механики RAG — в материале «Что такое RAG в чат-боте».
Критерии выбора: таблица решений
| Ваша задача | Выбор | Почему |
|---|---|---|
| Бот поддержки по базе знаний | RAG | факты меняются — перезалили базу, готово |
| Внутренние справки сотрудникам (регламенты, HR) | RAG | прослеживаемость: ответ со ссылкой на документ |
| Поиск и извлечение данных из документов | RAG | источник всегда можно показать |
| Ответы в фирменном стиле/тон-оф-войс | fine-tuning | стиль — это про веса модели, не про поиск |
| Жёсткий формат вывода (JSON, таблицы, разметка) | fine-tuning | модель надёжнее держит формат после дообучения |
| Классификация на узком наборе своих классов | fine-tuning | компактная дообученная модель точнее и дешевле в эксплуатации |
| Актуальные данные + фирменный стиль | гибрид | RAG для фактов + лёгкий fine-tune для стиля |
Экономика сравнения
| Параметр | RAG | Fine-tuning |
|---|---|---|
| Вход | пилот от 480 000 ₽ | существенно дороже: сбор и разметка данных, GPU-обучение, итерации |
| Срок пилота | 4–6 недель | от нескольких недель только на подготовку данных |
| Обновление знаний | минуты (перезагрузка базы) | новое обучение |
| Ошибка в знаниях | правится правкой документа | нужно переобучение + валидация |
| Аудит ответа | фрагмент-источник | «чёрный ящик» |
| Вендор-лок | низкий (модель меняется конфигом) | выше (модель — ваш актив, привязан к пайплайну) |
Правило большого пальца: сначала RAG; fine-tuning добавляют, когда RAG упёрся в конкретное ограничение (стиль, формат, классификация) — и это видно только на пилоте с реальными данными.
Как выглядит правильное решение на практике
- Пилот на RAG по вашему процессу (4–6 недель).
- Замер метрик: полнота ответов, точность, доля эскалаций.
- Если упор в стиль/формат — точечное дообучение небольшой модели под этот блок.
- Гибрид в продуктиве: факты из RAG, стиль от fine-tuned модели.
Такая траектория не тратит бюджет на «дообучение всего» заранее — см. подход в «Пилот или полный контракт».