Компания Nvidia представила утилиту PAIR, предназначенную для распределения задач ИИ-агентов между несколькими графическими процессорами в рамках одной локальной сети. Инструмент задействует свободные вычислительные мощности для предотвращения перегрузки одного GPU при выполнении множественных подзадач.
Система работает как прокси-сервер для популярных ИИ-интерфейсов, таких как Ollama и LM Studio. PAIR координирует распределение нагрузки между узлами сети, на которых также установлены соответствующие приложения. Утилита поддерживает автоматическую загрузку моделей и обнаружение устройств через mDNS или IP-адреса.
Архитектура PAIR спроектирована с учетом динамического изменения нагрузки. Если пользователь начинает использовать свой компьютер для игр или других задач, система автоматически перераспределяет ресурсы. Инструмент ориентирован на длительные процессы, не требующие жестких временных рамок исполнения.
Программное обеспечение совместимо с видеокартами Nvidia GeForce RTX 20-й серии и новее, а также с системами DGX Spark. Кроме того, заявлена поддержка компьютеров Mac с процессорами серии M4. Клиентская часть PAIR доступна для операционных систем Windows, macOS и Linux.