Почему данные важнее модели
Качество ответов ассистента на 80% определяется тем, что лежит в базе знаний, и лишь на 20% — выбранной моделью. Модель без ваших документов отвечает «из общих соображений» и красиво ошибается; модель с вычищенной базой отвечает по существу и со ссылкой на источник. Поэтому подготовка данных — первый и самый важный этап внедрения, и делать его лучше до подписания договора на разработку.
Четыре шага подготовки
- Сбор. Определите процесс (например, «ответы на обращения клиентов») и соберите по нему все документы: регламенты, инструкции, шаблоны ответов, частые вопросы. Одна актуальная редакция вместо десяти версий.
- Очистка. Уберите персональные данные и коммерческую тайну там, где они не нужны для ответов; решите, что вообще нельзя отдавать в контур. Порядок работы с ПДн — в ответе нужно ли согласие на обработку данных для обучения ИИ.
- Структурирование. Приведите документы к единому виду: заголовки, разделы, даты действия. Это не «красиво для людей» — по структуре ищет RAG-контур.
- Разметка эталонов. Выпишите 20–50 реальных вопросов и правильных ответов на них — это тестовый набор, по которому будет проверяться ассистент.
Отдельно про персональные данные
Если база знаний содержит ПДн, у обработки должно быть правовое основание по 152-ФЗ, а для сценариев с чувствительными категориями — изолированный контур. Ключевой вопрос — можно ли обучать или «кормить» модель обезличенными данными: критерии и границы разобраны в материалах персональные данные для обучения ИИ и можно ли доверить ИИ персональные данные.
Чек-лист готовности данных
Перед стартом пилота полезно пройти пять проверок:
- Единственность. По каждому документу есть одна актуальная редакция; версия-чемпион определена, остальные архивированы.
- Датировка. Понятно, когда документ вступил в силу и не истёк ли срок — просроченные документы из базы убраны.
- Владелец. У каждого документа есть ответственный, к которому можно обратиться за обновлением.
- Метки конфиденциальности. Ясно, что можно отправлять в облачный контур, что только в закрытый, а что ассистенту отдавать нельзя вовсе.
- Тестовый набор. Есть 20–50 реальных вопросов с эталонными ответами — по ним будет проверяться точность системы.
Если все пункты закрыты, пилот стартует без задержек и метрики получаются чистыми. Если нет — не страшно: первые недели пилота как раз уходят на доведение данных до состояния. Важно лишь не выдавать этот этап за «проблему технологии»: технологии здесь ни при чём, дело в зрелости документационной базы. Компании, которые прошли этот путь, получают бонус на годы вперёд: база знаний, вычищенная для ассистента, полезна и людям — по ней просто искать.
Типичные ошибки подготовки
- Всё сразу. Попытка «осканировать весь архив» тонет в мусоре; рабочая база строится по одному процессу.
- Устаревшие редакции. Ассистент цитирует отменённый регламент — и сотрудники перестают ему верить.
- Нет владельца. Документы собрали, обновлять некому: база умирает через квартал.
- Дубликаты. Несколько версий одного документа в базе дают противоречивые ответы.
Как проверяется готовность
Стартовая проверка — аудит данных и процессов за от 90 000 ₽ (3–5 рабочих дней): карта данных, классификация по чувствительности, оценка пригодности. Дальше пилот за от 480 000 ₽: база загружается в RAG-контур, и на вашем тестовом наборе замеряется точность. Как устроено обучение модели на документах компании — в ответе как обучить LLM на документах компании; что выбрать — базу или дообучение модели — в сравнении RAG или дообучение.
Итог
Подготовка данных — наименее заметная и наиболее решающая часть ИИ-проекта. Собрать актуальные редакции, вычистить конфиденциальное, структурировать и разметить эталоны — работа на дни, а не месяцы, но именно она отделяет полезного ассистента от генератора красивой ерунды. Хорошая новость: для RAG-контура не нужен идеальный архив, достаточно одного процесса и его актуальной базы. Начните с чек-листа из пяти проверок выше, а аудит за от 90 000 ₽ превратит его результат в план работ с оценкой точности до старта пилота — и с понятным распределением, что делаете вы, а что подрядчик. Дешевле подготовить данные один раз, чем переделывать пилот дважды.