Ответы по документам
Поиск в базе знаний и ответы со ссылками на доступные источники. Важны редакции материалов и права пользователя.
Сценарий · модель · эксплуатация
Языковая модель на вашей инфраструктуре.
Подбираем модель и ресурсы под корпоративный сценарий, разворачиваем инференс, поиск по документам и наблюдаемость. Границы обработки и подключения проверяем на согласованной архитектуре.
Состав, сроки и стоимость определяем по задаче и фиксируем в предложении.
Задачи и состав
Размещение начинается с ограничений задачи.
Выбор локального контура зависит от данных, нагрузки и требований к эксплуатации. Сравниваем варианты на рабочих примерах, определяем нужные ресурсы и фиксируем, какие подключения допустимы.
Работа с текстами
Подготовка черновиков, классификация и извлечение сведений. Формат и критерии качества определяются для выбранной задачи.
Подключение к системам
Сценарии в интранете, 1С, СЭД и внутренних сервисах. Разрешённые действия и границы обработки согласуются отдельно.
Как устроено
Контур — это модель, данные и правила доступа.
Локальное размещение само по себе не доказывает изоляцию. В схеме отдельно рассматриваются приложение, хранилища, журналы, обновления и внешние подключения.
Вход в систему
Пользователь и его права
Разрешённые документы и сценарии
Согласованная инфраструктура
Приложение
Инструкции, формат результата и проверка доступа
Поиск и источники
Документы, редакции и фрагменты со ссылками
Модель и инференс
Качество, нагрузка и доступные ресурсы
Журналы · наблюдаемость · обновления · восстановление
Внешние соединения и обмен данными — отдельная часть архитектуры и проверки.
Результат работы
Материалы, на которые можно опереться.
Согласуем состав результата и способ его проверки. Каждый этап заканчивается конкретными материалами и решением о продолжении.
Выбор по измерениям
Сравнение модели и ресурсов на согласованных примерах задачи.
Схема размещения
Компоненты, доступы, хранение и разрешённые соединения.
Пилотный сценарий
Работающий поиск или обработка документов с критериями приёмки.
Материалы эксплуатации
Наблюдаемость, обновления, инструкции и порядок сопровождения.
Работа по этапам
От обсуждения — к проверенному сценарию.
Фиксируем условия
Задачи, виды данных, нагрузку, инфраструктуру и ограничения обработки.
Сравниваем варианты
Оцениваем качество, задержку и потребность в ресурсах на примерах.
Проверяем пилот
Подключаем выбранные материалы, роли и сценарии; фиксируем ограничения.
Выбираем следующий этап
По результатам определяем состав промышленного контура и сопровождения.
Этапы, условия оплаты, доступ к данным, размещение, критерии приёмки и сопровождение фиксируются для вашего проекта до начала работ.
Перед обсуждением
Ответы на частые вопросы.
Подробности зависят от системы. Начать можно с общего описания задачи.
Нужны ли GPU для локальной LLM?
Это зависит от модели, длины запросов, нагрузки и допустимой задержки. Требования к ресурсам определяются при выборе модели и проверяются на пилоте.
Как оценить качество модели?
На согласованных примерах: обычных, сложных и без ответа в доступных источниках. Сравниваем качество, время и объём исправлений человеком.
Как проверить внешние подключения?
Согласуем сетевые границы и проверяем соединения приложения, модели, обновлений и вспомогательных компонентов. Решение зависит от полной архитектуры и правил эксплуатации.
Кто будет сопровождать контур?
Возможны сопровождение вашей командой, согласованные работы НЬЮ-ССТ или совместный порядок. Документация, обучение и ответственность определяются до внедрения.
Продолжить разбор
Материалы по вашей задаче.
Следующий шаг
Начнём с вашей задачи.
Опишите задачи, типы документов, ожидаемую нагрузку и доступную инфраструктуру. Секреты и закрытые материалы передавать не нужно.