Поиск

ML-платформа

Используйте преднастроенную инфраструктуру Selectel для обучения и развертывания ML-моделей. Дополните инфраструктуру платформами ClearML или Kubeflow.
  • Open Source решения
  • Мощные GPU NVIDIA Tesla T4, A2, A30, A100, RTX A2000 и A5000
  • Локальное кэширование данных
  • Соответствие 152-ФЗ
Оставить заявку
ML-платформа
ClearMLKubeflowFAQДополнительные сервисы

Из чего состоит решение

Каждая частная клиентская инсталляция ML-платформы имеет собственный домен, сгенерированный Selectel, а также отказоустойчивый балансировщик нагрузки для распределения входящих запросов.

Внутри каждой инсталляции разворачивается несколько входящих контроллеров трафика и единая система авторизации пользователей (SSO) Keycloak. С ее помощью пользователи смогут авторизовываться во внутренних сервисах ML-платформы.

Конфигурация клиентской инсталляции адаптирована под совместное использование с платформой ClearML, но подразумевает получение требований к настройке от владельца частной инсталляции.

Для проведения экспериментов с данными на CPU и GPU в Kubernetes создаются отдельные нод-группы. Для каждой из них создается своя очередь, в которую пользователи могут отправлять эксперименты на выполнение с помощью CLI или визуального интерфейса.

Если для экспериментов вам нужно обрабатывать персональные данные, то вы можете использовать сертифицированные сервисы Selectel.

Для каких задач подходит ClearML

Отслеживание и сравнение метрик экспериментов

ClearML позволяет логировать метрики, артефакты и другую метаинформацию об экспериментах. Это значит, что вы сможете одновременно сравнивать множество экспериментов между собой. Чтобы результаты было проще воспринимать, вы сможете визуализировать их в виде графиков и таблиц.

Оптимизация гиперпараметров ML-моделей

Вы сможете запускать эксперименты с разными комбинациями гиперпараметров модели в рамках одной верхнеуровневой задачи. Это возможно благодаря встроенным средствам ClearML. Формирование комбинаций происходит через использование инструмента Optuna.

Создание воспроизводимых Pipelines

Отдельный модуль ClearML позволяет объединить часто выполняемые наборы последовательных действий в рамках Pipeline и централизованно запускать их в нужный момент.

Serving выбранных ML-моделей

В ClearML есть дополнительные возможности организации Serving. Выбранную модель можно запускать в контейнере для тестирования или организации Inference. Трафик для Inference передается через отдельный Ingress Controller.

Организация комплексной вычислительной инфраструктуры

Архитектура ClearML позволяет использовать различные конфигурации вычислительной инфраструктуры:

  • один кластер Kubernetes для всех задач;
  • несколько кластеров Kubernetes — каждый для своей задачи (Training, Inference);
  • гибридная схема с использованием выделенных серверов Selectel.

При использовании нашего Kubernetes для каждого кластера можно выбрать конфигурацию нод GPU: Tesla T4, A2, A30, A100, RTX A2000 и A5000.

У вас другая задача? Напишите нам

Напишите нам на sales@selectel.ru, мы расспросим про особенности проекта, архитектуру сервиса и предложим решение, которое вам подойдет.

Преимущества использования ClearML в Selectel

Open Source платформа

ClearML для частного использования не нужно дополнительного лицензировать. Поэтому вы сможете модифицировать необходимые части ML-платформы и подстраивать ее под собственные задачи.

Мощные GPU

Для ML-платформы с ClearML доступны GPU NVIDIA Tesla T4, A2, A30, A100, а также RTX A2000 и A5000. Вам не придется использовать самые дорогие GPU для рутинных задач. Выбирайте видеокарты подходящей производительности для распределения нагрузки задач Inference и Training.

Кэширование датасетов

В платформе можно организовать кэширующий сервис. Он уменьшает поток трафика до хранилища данных и ускоряет работу с ними.

Возможность создать гибридную инфраструктуру

Для задач, связанных с обработкой персональных данных, к платформе можно подключить выделенные серверы Selectel.

Привычная среда разработки

Вы можете управлять платформой через SDK из любого привычного IDE.

Полный доступ к управлению кластером платформы

Вы сможете управлять платформой и при необходимости модифицировать ее. Помимо этого, вы сможете добавить в ML-платформу дополнительные вычислительные ресурсы.

Соответствуйте требованиям 152-ФЗ

Если для вас особенно важно соблюдать закон о защите персональных данных, вы можете разместить инфраструктуру в аттестованном сегменте ЦОД. Мы позаботимся о выполнении требований регуляторов по размещению оборудования и контролю физического доступа. Это поможет вам соблюдать 152-ФЗ.

Арендуйте ML-платформу в Selectel

Оставьте заявку, мы свяжемся с вами в течение рабочего дня и поможем подобрать инфраструктуру под ваш проект.

Вы всегда можете получить бесплатную консультацию по телефону 8 800 555 06 75, почте sales@selectel.ru или в  Telegram.