Как готовить Triton: рецепты вашей собственной Inference-платформы
Антон Алексеев
Материалы автора
-
-
Пять элементов Inference-платформы Selectel. Как мы сделали своего Аватара
-
Как мы строили Inference-платформу на основе NVIDIA Triton Inference Server
-
Как автоматизировать конфигурирование видеокарт с помощью GPU-оператора
-
Как подобрать конфигурацию ML-системы и повысить ее утилизацию
-
DevOps без ClickOps: ускоряем деплой облачной платформы в 20 раз
-
Как разделить видеокарту с помощью MIG, MPS и TimeSlicing
-
Делим неделимое в Kubernetes: шеринг GPU с помощью MIG и TimeSlicing
-
Как разбить GPU на несколько частей и поделиться с коллегами