Механика галлюцинации
Большая языковая модель решает одну задачу: по началу текста предсказать наиболее вероятное продолжение. У этого механизма нет встроенной проверки на истинность. Если в обучающем материале вопрос встречался с определённым ответом, модель воспроизведёт похожий ответ и на вашем вопросе — даже если у вашей компании другие тарифы, договоры и регламенты.
Галлюцинация — это не сбой, который можно «починить настройками». Это свойство архитектуры: модель стремится дать гладкий, уверенный ответ в любой ситуации, включая ту, где данных не хватает. Отсюда выдуманные пункты договоров, несуществующие нормы и уверенные ссылки на источники, которых нет.
Почему галлюцинации опасны именно в бизнесе
В чате для развлечения выдуманный факт заметит внимательный человек. В корпоративном контуре ошибка уходит клиенту в письме, попадает в тендерную заявку или в черновик приказа — и ответственность уже не на модели, а на компании. По этой же логике список типичных ошибок внедрения ИИ включает контуры, оставшиеся без контроля человека и без регламента.
Четыре способа снизить галлюцинации
- RAG — Retrieval-Augmented Generation. Перед ответом система находит релевантные фрагменты в базе знаний компании, и модель формулирует ответ строго на их основе. Каждый ответ прослеживается до документа-источника, а знания обновляются перезагрузкой документов без переобучения модели.
- Ограничение темы. Система честно отвечает «нет данных в базе знаний» вместо фантазий — это свойство проектируется, а не возникает само.
- Эскалация человеку. Сложные и чувствительные вопросы передаются сотруднику; модель не обязана знать всё.
- Метрики качества. Доля автоматических ответов и точность подборки материалов базы измеряются на пилоте — от 480 000 ₽ за 4–6 недель, — пока ошибка не стоила репутации.
RAG или дообучение
| Критерий | RAG | Дообучение |
|---|---|---|
| Актуальность знаний | Обновление перезагрузкой документов | Требует нового цикла обучения |
| Прослеживаемость ответа | Ссылка на документ-источник | Источник не виден |
| Когда оправдано | Ответы по документам компании | Стиль компании, узкие классификации |
Что спросить у подрядчика
Три вопроса отсекают большинство проблемных предложений. Первый: «на каких фрагментах построен этот ответ?» — если система не показывает источник, это не RAG, а генерация наугад. Второй: «что произойдёт, если в базе знаний нет данных по вопросу?» — правильный ответ: отказ и передача человеку, неправильный: «модель что-нибудь придумает». Третий: «как обновляются знания?» — ответ «перезагрузкой документов за минуты» говорит о зрелом контуре, ответ «дообучением за месяц» — о дорогой эксплуатации.
Галлюцинации в голосовых каналах
Отдельный риск — голосовые агенты: устный ответ клиент воспринимает как обещание компании, а текст ещё и можно перечитать. Поэтому в ИИ-звонках ограничение темы строится жёстче, чем в чатах: скрипт подтверждений, строгие формулировки, фиксация разговора и человек-в-контуре для споров. Проверить контур до запуска помогает имитация атак на него — red teaming, от 300 000 ₽ (сентябрь 2026).
И последнее: работу с галлюцинациями стоит показывать в договоре как метрику, а не как обещание. Если критерий качества сформулирован — например, доля ответов с подтверждённым источником — подрядчик проектирует контур под измерение, и спор о «плохо отвечает» превращается в разбор конкретных цифр. Такой подход ставит технологию на место инструмента: она обязана выполнять измеримую работу, а не производить впечатление.
Проверенные ответы клиентов, собранные за первые недели эксплуатации, становятся эталонным набором: по нему удобно проверять каждое обновление контура до выката, не дожидаясь первых жалоб от пользователей.
В 2026 году для корпоративных ботов выбирают RAG; дообучение добавляют, когда нужен фирменный стиль или специфические классификации, а гибрид даёт оба эффекта. Определение и признаки галлюцинаций разобраны в ответе «Что такое галлюцинации LLM и как их обезопасить», технология применения — в материале об обучении LLM на документах компании и на странице LLM-интеграций и RAG.