Купить или арендовать GPU-сервер

1. Опишите полезную загрузку

Запишите модель, точность, объём данных, число одновременных задач и требуемое время ответа. Затем разделите нагрузку на постоянную, сезонную и экспериментальную. Среднее число занятых часов не показывает, насколько равномерно они распределены: короткие пики и непрерывная очередь требуют разного резерва.

Проведите пробный запуск на сопоставимом оборудовании. Измеряйте выполненные задания или обработанные запросы с нужным качеством, а не только показатель загрузки GPU. Включите в календарь подготовку данных, перенос весов, перезапуски и обслуживание. Заранее определите период расчёта и сценарий, в котором спрос окажется ниже ожиданий.

Сравнивайте стоимость полезного результата на одинаковом горизонте.

2. Сравнивайте одинаковую комплектацию

Одного названия GPU недостаточно. NVIDIA отдельно описывает H200 SXM и H200 NVL, их форм-фактор и варианты соединения. Поэтому в обеих спецификациях зафиксируйте число ускорителей, память, топологию, CPU, RAM, диски, сеть и условия выделения ресурсов.

Уточните, предлагается ли целый физический сервер, отдельные GPU или виртуальная конфигурация. Проверьте доступ администратора, ограничения времени работы и возможность сменить образ системы. AMD публикует матрицу совместимости ROCm с аппаратной и программной средой; поддержку вашего стека следует подтвердить до сравнения результатов теста.

3. Разделите деньги, управление и гибкость

Гибкость аренды и контроль при покупке нужно подтверждать конкретными условиями.

4. Соберите полную стоимость

Для покупки соберите оборудование, доставку и установку, подготовку площадки, размещение, энергию, охлаждение, сеть, лицензии, работу специалистов и резерв на обслуживание. Предполагаемую остаточную стоимость считайте отдельным допущением: она не является гарантированным возвратом денег.

Для аренды проверьте оплачиваемый период, хранение, трафик, резервные копии, лицензии, настройку и помощь администратора. Добавьте затраты на перенос данных при входе и выходе. Не сравнивайте стоимость одного GPU-часа с ценой готового узла: сначала приведите предложения к одинаковому составу и уровню обслуживания.

Посчитайте базовый сценарий и вариант меньшей загрузки. Если выбор меняется от небольшого изменения спроса, сначала полезнее уточнить нагрузку пилотом, чем объявлять один вариант безусловно дешевле.

5. Превратите сравнение в запрос КП

Отправьте одну спецификацию для обоих вариантов. Попросите выделить включённые и отдельные услуги, условия изменения конфигурации, доступность ресурсов на требуемый период и порядок приёмки. Согласуйте одинаковые тестовые данные и критерии успешного запуска, чтобы сравнить предложения по результату.

Отдельно уточните гарантийный канал и допуск к установке. Например, у DGX H100/H200 NVIDIA связывает гарантийные условия с установкой уполномоченными специалистами; переносить это правило на любой сервер нельзя. Попросите условия именно выбранного производителя и поставщика. Итоговое решение должно опираться на подтверждённый состав работ, а не на предполагаемый сервис.

Выбирайте вариант, который выдерживает ваш сценарий нагрузки и понятен в эксплуатации.