Google представила TorchTPU — версию инструментария PyTorch с открытым исходным кодом, адаптированную для работы на собственных чипах компании Tensor Processing Units. Разработчики могут переносить существующие модели на облачную платформу Google, меняя лишь настройки конфигурации без переписывания кода.
Ранее аналогичный шаг предприняла Amazon, выпустив TorchNeuron для поддержки своих чипов Trainium в AWS. Amazon также вносит изменения в основной проект PyTorch, чтобы отвязать его функциональность от оборудования Nvidia и обеспечить поддержку различных аппаратных решений.
Google сотрудничала с Meta, Hugging Face, Inferact и RadixArk для интеграции TorchTPU с популярными инструментами разработки. Для упрощения перехода на свои чипы компания запустила специальный набор инструментов TPU agent suite, предназначенный для миграции и отладки приложений.
Компания также обновила инструмент LiteRT, который теперь эффективнее работает с приложениями на базе PyTorch на смартфонах, ноутбуках и встраиваемых системах. Эти действия направлены на снижение зависимости рынка от графических процессоров Nvidia.
