Группа Rubytech интегрировала платформу управления ИИ-инфраструктурой «Спектр ИИ» в состав программно-аппаратного комплекса «Машина искусственного интеллекта Скала^р». Решение включает оборудование из реестра Минпромторга и ПО из реестра Минцифры, а системные компоненты имеют сертификаты ФСТЭК России.
Внедрение «Спектр ИИ» позволяет повысить загрузку GPU-ускорителей с типичных 30–40% до 70–85%. Система объединяет GPU-узлы в единый кластер, что позволяет планировать нагрузку, распределять ресурсы между командами и сокращать затраты на закупку нового оборудования за счет оптимизации текущих мощностей.
Платформа работает на базе Deckhouse Kubernetes Platform и поддерживает операционные системы «РЕД ОС» и Astra Linux. Управление очередями и ресурсами осуществляется через единый интерфейс с поддержкой ролевой модели и возможностью бронирования мощностей. Решение масштабируется до 32 узлов, каждый из которых содержит 8 GPU.
Функционал «Спектр ИИ» включает создание каталога моделей, управление инференсом, контроль доступа и подсчет токенов. Инструменты обеспечивают мультитенантность и мониторинг рабочих сред, что позволяет использовать кластеры для одновременной работы нескольких команд разработки и развертывания агентских систем.
