Компания Amazon Web Services представила инструмент TorchNeuron, который упрощает перенос приложений искусственного интеллекта на собственные чипы Amazon под названием Trainium. Разработчики могут запускать модели, созданные на базе PyTorch, на оборудовании Amazon, изменив всего одну строку конфигурации без необходимости переписывать код.
Этот шаг направлен на ослабление позиций Nvidia, чье программное обеспечение CUDA стало стандартом для работы с PyTorch. По данным Amazon, около 85% всех приложений в сфере ИИ используют этот фреймворк. Компания планирует внести изменения в основной проект PyTorch, чтобы сделать его независимым от конкретных производителей чипов.
Amazon утверждает, что использование Trainium позволяет объединить этапы обучения моделей и их внедрения на одной платформе. По заявлению компании, это повышает экономическую эффективность рабочих процессов. В качестве примера приводится сервис Deepgram, который после перехода на Trainium увеличил объем обработки аудио на 70% в расчете на каждый потраченный доллар.
Стратегия Amazon заключается в устранении привязки разработчиков к экосистеме одного поставщика оборудования. В компании подчеркивают, что интеграция с облачной инфраструктурой AWS предоставляет стартапам готовые инструменты для масштабирования проектов от прототипа до полноценного производства.
