Компания Nvidia представила NVIDIA AI Cluster Runtime (AICR) версии 1.0. Инструмент предназначен для упрощения развертывания фреймворка Dynamo в кластерах Kubernetes. Система использует версионно-зависимые рецепты, которые гарантируют совместимость всех компонентов, включая драйверы GPU и программное обеспечение.
Процесс работы AICR включает пять этапов: создание снимка состояния кластера, генерацию рецепта, рендеринг пакета, развертывание и валидацию. Nvidia предоставляет криптографически подписанные доказательства, подтверждающие, что конкретная конфигурация была протестирована и работает корректно.
В конце октября 2026 года компания опубликовала документацию для работы с Amazon Elastic Kubernetes Service (EKS) на базе GPU классов H100 и GB200. В примерах для EKS с использованием H100 применяется версия 1.4.2 чарта Helm для платформы Dynamo.
Для использования функции Dynamic Resource Allocation (DRA), отвечающей за гибкое распределение ресурсов GPU, требуется Kubernetes версии 1.34 или выше. Фреймворк Dynamo поддерживает распределенный вывод, многоузловую оркестрацию и маршрутизацию с учетом кэша KV для оптимизации обработки запросов.
