Как мы строили Inference-платформу на основе Nvidia Triton Inference Server
Антон Алексеев
Материалы автора
-
-
Как автоматизировать конфигурирование видеокарт с помощью GPU-оператора
-
Как подобрать конфигурацию ML-системы и повысить ее утилизацию
-
DevOps без ClickOps: ускоряем деплой облачной платформы в 20 раз
-
Как разделить видеокарту с помощью MIG, MPS и TimeSlicing
-
Делим неделимое в Kubernetes: шеринг GPU с помощью MIG и TimeSlicing
-
Как разбить GPU на несколько частей и поделиться с коллегами