Почему сравнение «цена сервера против цена токенов» ошибочно
Видимая часть айсберга — закупка ускорителей или тариф внешнего сервиса. Невидимая — всё остальное: зарплаты инженеров, резервы мощности под пиковую нагрузку, тестирование качества, безопасность, обновления. Корректное сравнение двух архитектур строится по одной формуле: все капитальные затраты плюс все операционные за одинаковый период, приведённые к сопоставимой нагрузке и уровню сервиса.
Шесть статей TCO
1. Вычислительные ресурсы
Для собственного контура — ускорители или серверы: закупка либо аренда. Ключевая ошибка планирования — расчёт по средней нагрузке: пиковые часы требуют резерва, иначе ассистент «замирает» в момент максимального спроса. Альтернатива — гибрид: локальный контур для чувствительных данных, внешний API для пиков некритичных задач. Ориентиры по доступному железу — в обзоре российских GPU и инференса.
2. Амортизация и жизненный цикл
Инференс-железо устаревает быстрее классических серверов: горизонты планирования обновления короче. В TCO закладывайте амортизацию на реальный срок службы и отдельной строкой — апгрейды под рост нагрузки и новые модели. Подписка на внешние сервисы переносит эти расходы в операционные — это одна из причин её привлекательности на старте.
3. Инфраструктура размещения
Стойка, питание, охлаждение, каналы связи — или colocation, или облако. Для закрытых контуров с требованиями физической изоляции выбор сужается; добавляйте в расчёт резервирование: единая точка отказа обнуляет экономию в первый же инцидент.
4. Персонал
Самая недооценённая статья. Контур требует инженера инфраструктуры, специалиста по данным и хотя бы частичной ставки специалиста по безопасности. Внешняя поддержка снимает часть нагрузки, но не всю: владелец системы внутри организации нужен в любом сценарии.
5. Интеграция и доработки
Подключение к базам знаний и корпоративным системам, разработка фильтров, интерфейсов, журналирования. Это разовые капитальные затраты с хвостом доработок; закладывайте 30–50% бюджета первого года поверх базовой интеграции — эмпирический ориентир проектов.
6. Качество, безопасность, тесты
Оценка качества на своих данных, тесты на промпт-инъекции, аудит контура безопасности, регулярные регрессионные прогоны при обновлениях. Пропуск этой статьи — не экономия, а отложенный расход с процентами: инцидент дороже тестов.
Примерная структура TCO на три года
| Статья | Доля в совокупной стоимости (ориентир) |
|---|---|
| Вычислительные ресурсы и размещение | 30–45% |
| Персонал и поддержка | 25–35% |
| Интеграции и доработки | 15–25% |
| Тестирование, качество, безопасность | 5–15% |
Диапазоны — экспертные ориентиры для структурирования расчёта, а не рыночная статистика: ваша структура зависит от нагрузки, требований и зрелости команды.
Когда собственный контур выигрывает
- высокие и стабильные объёмы запросов — постоянная нагрузка амортизирует железо;
- чувствительные данные, которым место только внутри периметра;
- регуляторные требования: локализация обработки, запреты на внешние сервисы, статусы моделей для госсистем;
- кастомизация: дообучение и глубокая интеграция со своими процессами.
Когда разумнее API или облако
- пилоты и короткие проекты: скорость важнее экономики;
- неравномерная нагрузка с редкими пиками;
- малая команда без инженерных ресурсов;
- задачи вне чувствительных данных.
Гибридная схема — легитимный ответ, а не компромисс: чувствительное внутри, пиковое и общее — снаружи, при условии фильтрации данных на границе.
Алгоритм расчёта за один лист таблицы
- Спрогнозируйте нагрузку: запросы в день по сценариям, сезонность, рост на год вперёд.
- Определите класс модели под задачи (см. выбор on-premise LLM) и требования к железу.
- Соберите цены: железо или тарифы, поддержка, персонал, интеграция.
- Посчитайте три сценария: свой контур, внешний API, гибрид — на 1 и 3 года.
- Добавьте риск-поправку: простой, инциденты, пересмотр архитектуры.
Проверить расчёт под вашу нагрузку — заявка: НЬЮ-ССТ готовит TCO-модель с вилками и помогает выбрать архитектуру без сюрпризов в бюджете.