Комментарий пользователя
Наша компания активно внедряет ИИ-сервисы, и чеки за облачные GPU с каждым месяцем становятся все больше. Руководство предлагает закупить собственные серверы с GPU. Как правильно рассчитать экономическую целесообразность переезда из облака на свое железо, чтобы не уйти в минус?
Ответ специалиста
Добрый день, Михаил!
Покупка своего сервера с GPU часто выглядит привлекательно: один раз заплатим за железо и больше «никому не должны». Такой подход кажется выгодным, если сравнивать только стоимость аренды сервера в месяц с ценой покупки той же видеокарты в магазине. Однако при покупке собственного железа возникают масштабные скрытые расходы.
Закупка своего парка — это крупный CAPEX. При текущей довольно высокой ключевой ставке привлечение заемных средств или изъятие ликвидности из основного бизнеса оборачивается для компании значительными процентными расходами, которые необходимо сразу закладывать в итоговую стоимость оборудования.
Time-to-Market и проблемы с логистикой: собственные серверы с GPU не появляются в стойке на следующий день. Заказ, доставка и сборка занимают от трех месяцев до года.
Расходы на резерв и ЗИП: при покупке, например, 10 серверов вам потребуется 11-й узел для резервирования, а также комплект ЗИП (комплектующие на замену), чтобы внезапная поломка железа не привела к падению сервиса и долгому простою. В случае с арендой провайдер берет риски выхода из строя оборудования на себя.
Собственный парк серверов требует регулярного обслуживания — от настройки сети и замены деталей до мониторинга 24/7. Для этого компании понадобятся выделенные DevOps- и MLOps-инженеры. Затраты на их фонд оплаты труда и налоги ощутимо утяжеляют TCO, сводя на нет экономию от покупки железа. При аренде все задачи по обслуживанию инфраструктуры полностью берет на себя провайдер.
Расходы на электроэнергию и охлаждение: современные GPU-серверы потребляют киловатты энергии под высокой нагрузкой. К расходам на само электричество нужно добавлять затраты на работу кондиционеров и систем охлаждения в серверной. В профессиональном ЦОД показатели энергоэффективности значительно выше, а при аренде затраты на питание и климат-контроль уже заложены в фиксированный чек.
Стоит учитывать, что архитектуры ИИ-моделей развиваются стремительно. Покупая собственные серверы, компания закладывает амортизацию на 3–5 лет. Однако уже через год-полтора модель, для инференса которой хватало мощностей NVIDIA® H200, может потребовать ресурсов уровня NVIDIA® B300 или ускорителей с поддержкой новых типов квантования. При аренде в Selectel апгрейд парка под новые архитектуры — это задача провайдера.
Отмечу, что по нашей статистике мониторинга, во многих компаниях собственные GPU-серверы загружены на 30–40% от пиковой мощности (ночные простои, выходные и прочее), а у некоторых компаний этот показатель может быть и того меньше. При таком факторе утилизации окупаемость железа растягивается на 4–5 лет — к тому моменту оно уже морально устареет.
Как построить оптимальную инфраструктуру
Вместо прямой покупки дорогостоящего железа я бы рекомендовал использовать гибридную схему в Selectel.
- Для базовой нагрузки — выделенные серверы с GPU. Аренда Bare-Metal по фиксированной подписке дает чистую производительность без оверселлинга. При круглосуточной работе стоимость часа вычислений в 2–3 раза ниже, чем в почасовом облаке, а риски поломок и апгрейда берет на себя Selectel.
- Для строгих требований ИБ — серверы «навынос». Если вам принципиально держать ML-инфраструктуру строго в собственном контуре, вы можете заказать аренду серверов с доставкой в ваш ЦОД. Вы получаете железо на своей территории, но без неподъемных стартовых вложений.
- Под пиковые нагрузки — облачные GPU. Запускайте дополнительные инстансы на пару часов под тяжелые прогоны и сразу отключайте их после завершения тестов.
Перед принятием решения проанализируйте реальные логи утилизации ваших GPU за последние три месяца. Если средняя загрузка ниже 60–70%, собственная закупка on-premise гарантированно утянет экономику проекта в минус.
В нашем материале мы подробно разбираем, как оптимизировать затраты на инфраструктуру для искусственного интеллекта. А если вам нужно снизить расходы без заморозки капитала — арендуйте выделенные серверы с GPU или настраивайте гибкие облачные GPU в Selectel.
