Бизнес переключает внимание с наращивания мощностей GPU на создание распределенной и безопасной облачной инфраструктуры для ИИ-приложений. По словам директора по маркетингу Vultr Кевина Кокрейна, ранний этап развития ИИ-инфраструктуры был сосредоточен на создании крупных централизованных кластеров для ограниченного числа покупателей.
Компания Vultr делает ставку на чипы AMD и открытое ПО, позиционируя себя как облачного провайдера полного цикла. Стратегия компании направлена на децентрализацию систем и использование открытых стандартов, что должно помочь предприятиям преодолеть сложности при запуске рабочих нагрузок глобального масштаба.
Для оптимизации инференса Vultr совместно с Vast Data Inc. работает над глобальным пространством имен, позволяющим распределять KV-кэш между узлами. Это решение призвано обеспечить работу в изолированных частных сетях, что является критическим требованием для корпоративных клиентов при использовании облачных GPU.
Vultr присоединилась к Cloud Native Computing Foundation в статусе платинового участника. Также компания запустила программу Open Source Credits Program, предоставляющую вычислительные ресурсы разработчикам проектов CNCF для поддержки создания новых технологических решений в сфере ИИ.
