Две самые недооценённые опции внедрения ИИ находятся на разных концах шкалы сложности. Промпт-инжиниринг — искусство инструкций: модель, системные правила и примеры дают нужное поведение без новой инфраструктуры. RAG — подключение базы знаний: система сама находит нужные фрагменты документов и отвечает по ним со ссылками.
Порядок «сначала промпты, потом RAG» кажется очевидным, но на практике компании начинают сразу с векторных баз, потому что «так делают все». Ниже — трезвое сравнение по критериям: когда промптов достаточно, когда без RAG нельзя, и во что обходится каждый вариант.
Кратко: когда что выбирать
Прямой ответ — в таблице: слева ситуация, справа разумное решение по состоянию на сентябрь 2026 года. Если узнали свою компанию в одной из строк — дальше достаточно проверить решение по чек-листу в конце страницы, а не перечитывать весь интернет.
| Ситуация | Что выбирать | Почему |
|---|---|---|
| Универсальные задачи: стиль, черновики, переформулировки | промпт-инжиниринг | модель и так знает предмет — нужно задать формат |
| Ответы по документам компании | RAG | модель не знает ваши регламенты; знания подкладываются в контекст |
| Часто меняющиеся данные (тарифы, остатки) | RAG | обновление базы — без переобучения и без правок промптов |
| Узкий формат: JSON, поля, чек-листы | промпты + валидация | дёшево, стабильно, проверяется кодом |
| Проверяемость ответов и ссылки на источники | RAG с цитированием | каждый ответ прослеживается до документа |
| Проверка самой идеи автоматизации | промпты | прототип — от 90 000 ₽ и несколько дней |
Критерии сравнения
Развёрнутая матрица по критериям, которые заказчики проверяют перед решением: стоимость, сроки, риски, поддержка, комплаенс и режим данных. Каждая строка матрицы ниже раскрыта отдельным разбором — с пояснениями, откуда берутся цифры и на что смотреть в вашей ситуации.
| Критерий | Промпт-инжиниринг | RAG |
|---|---|---|
| Стоимость | часы инженера; прототип от 90 000 ₽ | пайплайн: нарезка, эмбеддинги, база, реранкинг; пилот от 480 000 ₽ |
| Сроки | дни на итерации | 4–6 недель на пилот с одним процессом |
| Риски | галлюцинации там, где нужны точные факты | сложность пайплайна, деградация качества индекса |
| Поддержка | версионирование промптов — дёшево | сопровождение базы и метрик — от 50 000 ₽/мес |
| 243-ФЗ | ИИ-инструмент в реестре, описание простое | ИИ-система с данными и контуром — регламент подробнее |
| Данные | в промпты нельзя ставить ПДн и тайну | права доступа переносятся в индекс, обезличивание до загрузки |
Как читать матрицу: строка «Риски» — ключ к решению: если для бизнеса нетерпимы галлюцинации на фактах, промптов недостаточно в принципе. Строки «Стоимость» и «Сроки» честно показывают разрыв в пять раз — это аргумент не экономить там, где нужны факты, и не строить лишнее там, где их хватает. Строки «243-ФЗ» и «Данные» про гигиену: в промпты — никакого чувствительного, в индекс — только с правами и обезличиванием. Строка «Поддержка» напоминает: у дешёвого решения тоже есть владелец — иначе экономия превращается в деградацию. Полезная привычка — раз в квартал переслушивать сотню записей и править сценарии: линии живут, и меню, идеальное весной, к осени устаревает.
Разбор критериев
Стоимость
Промпт-инжиниринг — самая дешёвая работа с ИИ: итерации инструкций, замеры, версионирование. Прототип с настроенными промптами — от 90 000 ₽. RAG — полноценная система: подготовка данных, векторный слой, поиск, реранкинг, оценка качества; пилот на одном процессе — от 480 000 ₽, сопровождение — от 50 000 ₽/мес. Разница в пять раз — не аргумент экономить там, где нужны факты; это аргумент не строить RAG там, где хватает промптов.
Сроки
Промпт-итерации занимают дни: изменил инструкцию — прогнал тесты. RAG-пилот — недели: сбор и очистка документов, нарезка, эмбеддинги, поиск, связка с моделью. Отсюда практичное правило: первый месяц любого ИИ-проекта — промпты и метрики на живых данных; решение о RAG принимается по факту, а не по моде. Методика первого шага — «как запустить пилот ИИ за 4 недели».
Риски галлюцинаций
Чистые промпты не защищают от выдуманных фактов: модель уверенно сочиняет реквизиты, нормы и цифры, если ответа нет в её знаниях. RAG сужает пространство: модель отвечает по найденным фрагментам и ссылается на них, а пустой поиск честно означает «данных нет». Остаточный риск закрывается контролем формулировок и метриками точности; природа явления разобрана в «что такое галлюцинации LLM и как их обезопасить».
Поддержка и сложность
Промпты версионируются как код — дёшево и откатываемо. RAG-система живёт: документы обновляются, индекс пересобирается, качество поиска измеряется. Это не «сделал и забыл», а продукт с метриками; аутсорс сопровождения — от 50 000 ₽/мес. Если в компании нет владельца для такой системы, честнее ограничиться промпт-решением, чем собрать RAG и бросить.
Данные: что можно в промпт
В промпт нельзя вставлять персональные данные и коммерческую тайну — они уходят провайдеру модели вместе с запросом (разбор — «утечка данных через промпты»). В RAG права доступа проектируются: индекс наследует права источников, чувствительные документы обезличиваются до загрузки. Для полностью закрытых сценариев оба варианта разворачиваются на локальной модели в контуре организации
Комплаенс и 243-ФЗ
Промпт-ассистент как инструмент сотрудников — ИИ-актив с простым описанием: модель, назначение, ограничения. RAG-система — ИИ-актив посложнее: контур данных, источники, журналирование. В Москве в рамках эксперимента по 243-ФЗ оба варианта регистрируются, но глубина регламента различается. Дешевле спланировать это на старте — гайд «как вести реестр ИИ-активов по 243-ФЗ».
Вердикты по трём сценариям
Сценарий 1. Первая автоматизация в компании
Промпт-инжиниринг: берёте 2–3 живые задачи (черновики писем, разбор обращений, структурирование), настраиваете инструкции, вводите метрики. Прототип — от 90 000 ₽. Результат за недели покажет, где ИИ реально приносит деньги, а где — только слайды.
Сценарий 2. Ответы сотрудникам по внутренним документам
RAG: регламенты, инструкции, договорная база — модель отвечает со ссылками на источники, база обновляется без переобучения. Пилот на одном процессе — от 480 000 ₽ за 4–6 недель; подготовка данных — по гайду «как подготовить данные для RAG».
Сценарий 3. Извлечение полей из документов
Промпты плюс строгая валидация: модель укладывает документ в JSON-схему, код проверяет обязательность и форматы, сомнительные случаи уходят человеку. RAG здесь не нужен — нужен контроль формата; глубже об извлечении данных — услуга «OCR и извлечение данных».
Типичные ошибки выбора
Ошибки на первых шагах работы с LLM:
- строить RAG до того, как промпты проверены на живых данных, — система оказывается дороже необходимого;
- вставлять персональные данные и тайну прямо в промпты: у провайдера нет ваших границ доступа;
- не версионировать промпты — «стало хуже» превращается в неразрешимую археологию;
- мерить качество «на глаз» вместо тестовой выборки с разметкой;
- назначать систему без владельца: и промпты, и индексы деградируют без присмотра.
Итог
Лестница зрелости проста: промпты → метрики → RAG → при необходимости fine-tuning. Каждая ступень оправдана доказательствами с предыдущей. Компании, которые соблюдают этот порядок, платят за сложность только тогда, когда она приносит измеримый результат. Решение стоит перепроверить на своих цифрах: разбор задачи бесплатный, ответ — за 1 рабочий день.
Чек-лист решения
Семь пунктов, которые стоит закрыть до выбора: они одинаково полезны обоим вариантам и закрывают большинство ошибок из списка выше. Пройдите список с командой — обычно это один рабочий час, который экономит недели переделок.
- Сформулируйте, откуда модель должна брать факты: из своих знаний (промпты) или из ваших документов (RAG).
- Проверьте задачу на стабильность формата: структуры и схемы — царство промптов.
- Соберите 50–100 живых примеров и определите метрику качества до начала работ.
- Оцените частоту обновления данных: чаще раза в месяц — это аргумент за RAG.
- Определите класс данных и режим доступа: ПДн в промпты не вставлять, в индекс — только с правами.
- Заложите владельца системы: промпты и индексы деградируют без присмотра.
- Зафиксируйте ИИ-актив в реестре по 243-ФЗ, если эксперимент к вам применим.
Смежные материалы
Смежные сравнения: «RAG или fine-tuning» (следующая ступень лестницы) и «векторная БД или полнотекстовый поиск» (слой поиска внутри RAG). Практика: услуги LLM-интеграций и RAG и ИИ-ассистентов; технология векторных БД. Вопросы: «как обучить LLM на документах компании». Пошагово: «как подготовить данные для RAG».
Полный каталог разборов «или — или» — в разделе Сравнения; форматы работ, сроки и цены «от» — в каталоге услуг.