Meta начала использовать тензорные процессоры Google TPU в своей производственной среде. Интеграция стала возможной благодаря разработке фреймворка TorchTPU, созданного в сотрудничестве с Google и стартапом RadixArk. Новое решение позволяет запускать рабочие нагрузки PyTorch на чипах Google без необходимости переписывать код.
Ранее Meta использовала мост PyTorch/XLA для исследовательских задач в период с 2020 по 2023 год. Согласно отраслевым данным, компания заключила многолетний контракт на аренду мощностей Google Cloud TPU, а в 2027 году планирует рассмотреть возможность закупки оборудования.
Тестирование, проведенное стартапом Inferact, показало, что система на базе 16 чипов Ironwood седьмого поколения при работе с моделью Kimi K3 достигает скорости более 700 токенов в секунду. Это превышает показатели конфигурации из 16 чипов Nvidia GB200, которая продемонстрировала результат 452 токена в секунду.
Этот шаг направлен на снижение зависимости от программной экосистемы Nvidia. Аналогичную стратегию выбрала Amazon, открыв исходный код бэкенда TorchNeuron для своих чипов Trainium. RadixArk планирует расширить поддержку моделей, включая DeepSeek V4.1 Flash, и обеспечить поддержку новых архитектур в день их выхода к первому кварталу 2027 года.
