Microsoft представила TauGrid — платформу с открытым исходным кодом для запуска задач искусственного интеллекта в среде Kubernetes. Проект распространяется по лицензии MIT. Для работы системы требуется кластер Kubernetes версии 1.30 и выше с GPU-узлами, а также инструменты kubectl и Helm 3.0 или более поздние версии.
Решение объединяет несколько инструментов: интерфейс командной строки tau, планировщик Kueue для управления очередями, KubeRay для оркестрации кластеров, а также средства мониторинга состояния GPU и наблюдаемости кластера. Код платформы написан преимущественно на языке Go. Разделение ролей позволяет командам платформы управлять ресурсами, а исследователям — запускать задачи через CLI.
Описание задач происходит в файле tau.yaml. Процесс обработки включает шесть этапов: подачу, постановку в очередь, выполнение, мониторинг, восстановление и сбор данных. Этап восстановления поддерживает повторные попытки и возобновление работы с контрольных точек, а сбор данных фиксирует метаданные, логи и историю выполнения для обеспечения воспроизводимости.
TauGrid поддерживает работу нескольких команд в одном кластере, распределяя задачи на основе квот и приоритетов через Kueue. Платформа не отправляет телеметрию по умолчанию. Хотя некоторые интеграции, например, Azure Data Explorer, привязаны к облаку Microsoft, разработчики заявляют о намерении обеспечить поддержку любых Kubernetes-кластеров и принимают сторонние вклады в развитие проекта.
