NVIDIA представила Personal AI Router (PAIR), виртуальный маршрутизатор для распределения локальных ИИ-запросов между несколькими устройствами в домашней сети. Инструмент доступен в виде публичной беты (v0.1.1) с установщиками для Windows, macOS и Linux. Исходный код проекта опубликован на GitHub под лицензией Apache 2.0.
Система работает как прокси-сервер для интерфейсов Ollama и LM Studio, поэтому существующие ИИ-агенты не требуют доработки. Для автоматического поиска устройств в сети используется протокол mDNS, а при его сбое — ввод IP-адреса. Безопасность обеспечивается шестизначным PIN-кодом для сопряжения и протоколом mTLS для связи между узлами.
PAIR не объединяет видеопамять (VRAM) и не разделяет один запрос между машинами. Вместо этого он назначает каждый запрос на один подходящий подходящий узел, основываясь на пяти сигналах: статусе сети, активности движка, наличии модели, текущей нагрузке на движок и загрузке GPU. Маршрутизатор также может автоматически устанавливать движки и скачивать модели на сопряженные системы.
В демонстрации с использованием Hermes Desktop и модели Qwen 3.6 35B A3B время выполнения задачи took 18 минут на одном ноутбуке RTX Spark, а в кластере из трех устройств (ноутбук RTX Spark, DGX Spark и RTX 5090) оно сократилось до 8 минут 48 секунд.
Программное обеспечение поддерживает GeForce RTX 20-й серии и новее, профессиональные GPU RTX PRO начиная с архитектуры Turing, DGX Spark и чипы Apple M4 или новее. Система совместима с Windows, Linux и macOS на архитектурах x64 и arm64, при этом поддержка Windows on ARM считается экспериментальной. Рекомендуемые требования: от 8 ГБ оперативной памяти и 20 ГБ на диске.
