Корпорация Microsoft представила Maia 300 — новый ускоритель для задач искусственного интеллекта, предназначенный для внутреннего использования. Чип построен на базе мультичиплетной архитектуры и включает четыре вычислительных модуля, созданных по двухнанометровому техпроцессу TSMC. Устройство оснащено восемью модулями памяти HBM4 общим объемом 288 гигабайт.
Архитектура Maia 300 направлена на минимизацию перемещения данных для повышения производительности. Вычислительные чиплеты используют внутренний кэш SRAM для хранения информации, а при работе с HBM данные направляются в физически ближайшие стеки памяти. Ускоритель также поддерживает сжатие данных в форматах вроде MXFP4, что ускоряет их передачу внутри процессора.
Microsoft планирует размещать ускорители в стойках с жидкостным охлаждением, каждая из которых вмещает 96 чипов. Ожидается, что такие стойки обеспечат семикратный прирост пропускной способности токенов по сравнению с предыдущим поколением Maia 200. В дальнейшем компания намерена объединять стойки в суперподы, включающие 12 288 ускорителей.
Для связи между чипами используется специализированный сетевой стек на базе Ethernet. Он позволяет гибко распределять полосу пропускания между внутристоечным и межстоечным трафиком. Единые протоколы обмена данными позволяют исключить использование дополнительных аппаратных средств для управления сетевыми режимами, что повышает общую эффективность кластеров.
Развертывание Maia 300 в производственной среде запланировано на следующий год. Microsoft рассчитывает, что собственные разработки станут основным инструментом для обеспечения вычислительных мощностей, необходимых для работы с крупными моделями и обработки большого количества одновременных запросов.
