Компания Amazon представила открытый инструмент TorchNeuron, который позволяет запускать код PyTorch на собственных чипах Trainium. Разработчикам достаточно изменить одну настройку в конфигурации, чтобы перенести рабочие процессы на аппаратное обеспечение Amazon без необходимости переписывать программный код.
Официальный релиз TorchNeuron запланирован на 20 октября в рамках конференции PyTorch в Сан-Хосе, Калифорния. Инструмент призван упростить миграцию для специалистов, которые ранее использовали решения, оптимизированные под архитектуру NVIDIA CUDA.
В ходе внутренних тестов инженеры Amazon сравнили работу ИИ-скриптов на традиционных процессорах и чипах Trainium. Результаты показали идентичную скорость обучения и качество моделей. Инструменты для тестирования и отладки при этом не потребовали внесения изменений.
Amazon также активно сотрудничает с сообществом PyTorch для устранения привязки фреймворка к конкретному «железу». Цель компании — сделать PyTorch независимым от аппаратных платформ, что должно расширить выбор для разработчиков и способствовать снижению затрат на разработку.
