В прошлом году мы объявили о разработке собственного облачного сервиса для развертывания и управления AI-моделями на базе инфраструктуры Selectel — Foundation Models Catalog (FMC). На старте в private preview продукта были представлены популярные решения от OpenAI, Alibaba (Qwen), DeepSeek и Mistral AI.
FMC — продукт, который позволяет компаниям и разработчикам разворачивать в облаке готовые LLM, то есть уже преднастроенные модели для создания собственных AI-решений. Включая: системы генерации речи и другие AI-инструменты.
На первом этапе запуска корпоративный клиент мог получить доступ к готовым LLM только через запрос. Наконец, мы готовы сообщить об обновлении собственной AI-платформы. Теперь пользователи получают готовую платформу для управления современными AI-моделями через API или панель управления, а встроенные инструменты мониторинга и автоматизации помогают отслеживать работу моделей и улучшают их производительность.
Подробнее об обновлении
Foundation Models Catalog является частью AI-платформы Selectel — экосистемы сервисов для обучения и инференса AI-моделей, которая помогают компаниям быстрее и эффективнее выводить AI-решения на рынок.
«Наша задача — обеспечить компаниям быстрый переход от экспериментов с AI к экономически эффективному применению искусственного интеллекта. Мы предоставляем не просто «железо», а комплексный набор инфраструктурных решений — от серверов c GPU до преднастроенных платформенных продуктов, которые закрывают задачи как пилотных проектов, так и промышленной эксплуатации ИИ. Развитие AI-платформы и Foundation Models Catalog в экосистеме Selectel — это еще один шаг к тому, чтобы инференс стал управляемым и предсказуемым фактором роста бизнеса, а не источником непредсказуемых затрат».
Продукт упрощает внедрение искусственного интеллекта в корпоративные процессы и позволяет быстро разворачивать и масштабировать AI-модели в облаке без необходимости самостоятельно настраивать IT-инфраструктуру для работы с ними. Оплата осуществляется за фактически используемые вычислительные ресурсы, а в ближайшее время пользователям станет доступна новая модель тарификации по количеству токенов.
AI-модели разворачиваются на выделенной инфраструктуре с возможностью быстрого автомасштабирования. В ближайшее время будет реализован доступ через приватные сети, что повысит стабильность, предсказуемость и уровень информационной безопасности решений.
Добавлены инструменты observability для контроля состояния и производительности моделей. Теперь пользователям доступны логи и метрики инференс-сервера, в котором развернуты AI-модели.
Логи фиксируют события работы приложения, включая ошибки и время их возникновения, а метрики отражают показатели производительности — скорость генерации токенов, задержки, уровень нагрузки и количество активных подключений. Собранные данные могут быть интегрированы во внешние системы мониторинга, а в следующих версиях продукта планируется их отображение непосредственно в интерфейсе платформы метрик облачной платформы Selectel.
Обновлена архитектура платформы. В качестве основного компонента для инференса используется vLLM — высокопроизводительный open source-фреймворк для запуска LLM. Переход на него увеличивает производительность AI-моделей без роста инфраструктурных затрат и обеспечивает поддержку популярного стандарта OpenAI API.
В каталог добавлены новые open source-модели. Среди них — решения от IBM (Granite), Alibaba (Qwen), DeepSeek, Microsoft (Phi), Mistral AI и OpenAI. Перечень доступных пользователям моделей будет пополняться, среди ближайших запланированных обновлений — модели от Qwen, DeepSeek, Moonshot AI (Kimi), Zhipu AI (GLM), Google (Gemma), OpenAI (Whisper, GPT OSS), MiniMax и другие. Обновление расширяет покрытие сценариев использования — от генерации и анализа текста до обработки кода, изображений и аудиофайлов.
Управление сервисами доступно через REST API. Это позволяет интегрировать управление моделями во внешние системы и бизнес-процессы. Через API можно создавать и изменять конфигурации сервисов, масштабировать их и останавливать выполнение, не используя для этого панель управления.
Обновления затронули и пользовательский интерфейс. В каталоге появилась фильтрация по характеристикам, упрощающая поиск и выбор подходящих моделей.
Заключение
Протестировать FMC в своих задачах можно уже сейчас — решение доступно в панели управления Selectel. Мы продолжим расширять функциональность AI-платформы и развивать новые комплексные решения для задач искусственного интеллекта, позволяющие компаниям переходить от экспериментов к эффективному внедрению AI в реальные бизнес-процессы.
