- ML-платформа построена на сервисе Managed Kubernetes от Selectel.
- Она разворачивается в клиентском аккаунте и полностью доступна для дополнительных настроек и модификаций.
- Базовое доменное имя для доступа на главную страницу ML-платформы регистрируется в служебном аккаунте Selectel, пользователь не может сменить имя самостоятельно.
- Мы предварительно согласуем с вами конфигурацию каждой инсталляции платформы. Конечная настройка осуществляется в рамках согласованной конфигурации.
- ML-платформа адаптирована под установку системы управления ML-экспериментами ClearML и поддерживает использование ClearML-агентов как на серверах в клиентском контуре, так и на дополнительных мощностях Selectel.
- Если для экспериментов вам нужно обрабатывать персональные данные, то вы можете использовать сертифицированные сервисы Selectel .
Как устроена ML-платформа
Детали о работе платформы
Для каких задач подходит сервис
Упростить тестирование ML-моделей
Вы сможете генерировать API для ML-моделей, мониторить запросы, настроить конвейер операций обработки запросов (inference graph). Все это почти без написания кода.
Получить ресурсы для обучения ML-моделей
С нашей платформой вы получите гибкую систему тарификации GPU, возможность арендовать выделенные или облачные серверы, а также кластеры Kubernetes. Мы гарантируем высокий SLA.
Ускорить релиз новых версий модели
ML-платформа помогает автоматизировать выполнение pipelines, кэшировать датасеты и environments для экспериментов. Это позволяет быстрее выбирать лучшую модель по результатам множества экспериментов.
Изучить концепцию MLOps
До начала работы мы покажем, как пользоваться платформой, и будем помогать в процессе ее использования. Новые сотрудники смогут разбираться с технологиями без риска повредить реальную инфраструктуру ML-сервисов.
Стандартизировать рабочие процессы
У вашей ML-команды появится единый инструмент управления экспериментами, единая инфраструктура, а также точка входа в платформу и хранилище артефактов. Все это поможет команде унифицировать процесс работы и создать единые принципы взаимодействия.
Сократить траты на GPU-ресурсы
Мы поможем повысить утилизацию вычислительных ресурсов за счет разделения одной GPU между разными задачами, а также за счет подбора конфигураций и инструментов скейлинга вычислительных ресурсов.
ML-компоненты решения
ClearML
Платформа для проведения и трекинга ML-экспериментов, позволяющая:
- проводить изолированные ML-эксперименты в контейнерах Kubernetes,
- отслеживать и сравнивать гиперпараметры и метрики ML-экспериментов,
- создавать воспроизводимые ML-pipelines,
- организовать комплексную вычислительную инфраструктуру между облачными и выделенными серверами Selectel.
Kubeflow
Платформа для ML, позволяющая организовать полный цикл обучения и использования ML-модели в кластере Kubernetes. Набор инструментов Kubeflow позволяет:
- запускать Jupyter-среды для проведения экспериментов,
- создавать воспроизводимые ML-pipelines,
- развертывать модели в виде отдельных сервисов,
- мониторить работу моделей,
- разграничивать права доступа членов команды к артефактам работ
Хранение кода
Gitea
Gitea позволяет хранить код экспериментов в контуре ML-платформы и версионировать его по стандартным практикам. Также вы можете преднастроить ClearML для запуска экспериментов напрямую из репозиториев Gitea. Чтобы это сделать, необходимо настроить зеркалирование клиентских репозиториев в Gitea. Это позволит не загружать код экспериментов в два отдельных репозитория.
Инфраструктурные сервисы
Homepage
Grafana, Prometheus, Alert manager
Объектное хранилище с поддержкой S3
CRaaS
Кластеры Kubernetes
Безопасность
Keycloak
Единая система авторизации пользователей (SSO) для входа во внутренние сервисы ML-платформы. Помогает разграничивать доступы пользователей и поддерживает безопасность на высоком уровне.
Сертификаты и DNS
Частная инсталляция ML-платформы включает в себя сгенерированные доменные имена для всех публичных сервисов, сертификаты для них, а также необходимую настройку балансировщиков нагрузки и Ingress-контроллеров.
Соответствие 152-ФЗ
Выделенные серверы, облачная платформа Selectel и Managed Kubernetes имеют акт оценки эффективности, который гарантирует, что они соответствуют требованиям 152-ФЗ до первого уровня защищенности.
Безопасность систем
Предоставляем IT-инфраструктуру для проектов с повышенными требованиями безопасности, а также сервисы для защиты сетей, ОС и приложений.
Поддержка
Дадим возможность бесплатного тестирования на две недели
Проконсультируем вашего администратора
Будем отвечать на вопросы 24/7
Узнайте больше о работе ML-платформы
Истории успеха
Как RobotMIA удалось запустить более 400 голосовых роботов в облаке
В компании хотели создать комфортные условия для пользователей при общении с голосовыми роботами, а также научить тех предоставлять максимально релевантные ответы. Все это удалось благодаря размещению сервисов на инфраструктуре Selectel.
1–2 секунды
среднее время ответа голосового робота
4
региона ЦОД поддерживают инфраструктуру клиента
Я хочу протестировать платформу. Что меня ждет дальше?
- Оставьте заявку — мы свяжемся с вами в течение рабочего дня и проконсультируем по вашему запросу.
- После этого на отдельной встрече обсудим требуемую конфигурацию кластера и его дополнительные настройки на период теста.
- В течение пяти рабочих дней мы подготовим тестовую инсталляцию и создадим чат в Telegram для дальнейшей коммуникации.
- После получения всех необходимых доступов стартует двухнедельный тестовый период.
- После завершения теста устроим встречу, чтобы обсудить результаты.
- Если результаты теста положительные, то мы совместно запланируем дальнейшие действия по развертыванию клиентской инсталляции ML-платформы.
В каких пулах я могу создать кластер с новыми моделями GPU?
Наибольшее количество новых моделей GPU собрано в пуле ru-7, который находится в наших дата-центрах в Москве. Вы можете создать кластер и в других пулах, но в них меньший выбор моделей.
Могу ли я использовать свой домен для доступа в платформу?
Да, можете. Его придется делегировать в наш DNS. О том, как это сделать, мы написали в нашей документации.
Можно ли обратиться в Selectel за консультацией по настройке платформы под собственные задачи?
Да, мы можем с этим помочь. Напишите нам на почту sales@selectel.ru или позвоните по телефону 8 800 555 06 75.
Можно ли использовать в качестве источника датасетов объектное хранилище не от Selectel?
Да, вы можете подключить к платформе любое хранилище S3.
Какой размер кэша можно добавить в платформу?
Вы можете подключить к платформе кэш размером до 10 ТБ.
Что нужно для подключения собственной инфраструктуры к кластеру?
Чтобы подключить вашу инфраструктуру к кластеру Kubernetes, вам потребуется установить ОС на сервер и организовать сетевую доступность.
Если у вас возникнут вопросы или сложности — напишите нам с помощью тикет-системы.
Можно ли использовать свой ClearML?
Да, вы можете использовать собственный ClearML. Мы поможем настроить ClearML-агенты на наших вычислительных нодах.
Можно ли развернуть платформу on-prem?
Нет, такая функция недоступна.
Могу ли я самостоятельно изменять конфигурацию кластера?
Да, у нас есть такая опция. Вы можете добавлять и удалять ноды кластера по API, Terraform или с помощью графического интерфейса.
Могу ли я отключать ноды кластера, чтобы не платить за них, пока они не используются?
Автоматического механизма отключения неиспользуемых нод нет, но вы можете делать это вручную.
Сколько стоит установка ML-платформы?
У нас есть установочный платеж в размере 4 999 рублей. Ежемесячная стоимость самой платформы складывается из стоимости задействованных в ее работе продуктов Selectel.
Общая информация
Быстрый старт
Работа с платформой
Есть ли сознание у искусственного интеллекта? Проблемы цифровой философии
Как автоматизировать конфигурирование видеокарт с помощью GPU-оператора
Бурный рост и завидный аппетит. Как нейросети меняют экологию и что с этим делать
Решайте ML-задачи с помощью других сервисов Selectel
Обучать ML-модели и исследовать данные
Собирать и обрабатывать данные
Хранить данные
Производить ресурсоемкие вычисления
Выделенные серверы с GPU
Суперкомпьютер для HPC
Соответствовать требованиям 152-ФЗ, GDPR, AICPA SOC 2®
Развернуть собственную платформу для ML
Арендуйте продукты Selectel для решения задач, связанных с AI и ML
Оставьте заявку, мы свяжемся с вами в течение рабочего дня и поможем подобрать инфраструктуру под ваш проект.
Вы всегда можете получить бесплатную консультацию по телефону 8 800 555 06 75, почте sales@selectel.ru или в Telegram