Организация MLCommons представила обновленный набор тестов MLPerf Inference v6.1. Бенчмарк оценивает производительность оборудования в задачах ИИ-инференса, включая пропускную способность и задержки.
Компания AMD установила рекорд, задействовав 512 графических процессоров Instinct MI355X. В тесте DeepSeek R1 система показала результат 2 901 950 токенов в секунду в офлайн-режиме и 2 405 310 токенов в секунду в серверном режиме.
NVIDIA представила результаты для систем GB300 и GB200 в конфигурациях на 288 GPU. Показатели GB300 составили 2 705 130 токенов в секунду для офлайн-задач и 2 028 030 токенов в секунду для серверных сценариев.
В рамках тестирования впервые появилась архитектура NVIDIA Vera Rubin VR200. Устройство протестировали в конфигурациях на 36 и 72 GPU. Версия VR200 на 72 GPU оказалась на 95% быстрее, чем система GB300 с аналогичным количеством процессоров.
