Google представила TorchTPU — открытый бэкенд для нативной работы PyTorch на облачных чипах TPU. Проект, анонсированный 20 октября 2026 года на конференции PyTorch, был создан совместно с командой Meta PyTorch. Разработка решения началась в середине 2025 года.
Система поддерживает режим eager execution и около 450 операций ATen. Бэкенд масштабируется на тысячи чипов: при обучении модели Qwen 3 8B на 8 192 чипах TPU v7x показатель утилизации FLOPs достиг 52%. Решение совместимо с Python 3.11 и более новыми версиями.
Код опубликован в четырех репозиториях на GitHub под лицензией Apache 2.0, допускающей коммерческое использование. Интеграция с Hugging Face Transformers позволяет запускать тысячи моделей с минимальными правками кода. Для переноса рабочих нагрузок достаточно заменить вызов устройства с .to(cuda) на .to(tpu).
Google позиционирует TorchTPU как готовое к эксплуатации решение, заменяющее PyTorch/XLA. Компания сообщает, что часть облачных клиентов уже начала внедрение нового бэкенда в свои рабочие процессы.
