Организация Epoch AI представила Inference Performance Index (IPI) версии 1 для оценки производительности ИИ-чипов в задачах агентного вывода. Индекс учитывает способность систем обрабатывать параллельные запросы со скоростью от 50 до 400 токенов в секунду, что, по мнению авторов, точнее отражает реальные возможности железа, чем показатель FLOP/s.
Методика учитывает пропускную способность памяти, межчиповые соединения и вычислительные мощности. За эталон принята система Nvidia GB300 NVL72 с показателем 1,0 GB300e. Исследование показало, что чип GB300 обладает в 25 раз большей емкостью вывода, чем H100, хотя его показатель восьмибитных FLOP/s выше лишь в 2,5 раза.
В рейтинге лидирует модель MI455X с результатом 2,89, за ней следует VR200 с 2,18. Показатель H200 HGX составляет около одной восьмой от мощности эталонного GB300 NVL72. Чипы MI355X и B300 HGX демонстрируют почти идентичные результаты, различаясь лишь на сотую долю балла.
Согласно данным от 18 ноября, емкость агентного вывода выросла в 4,6 раза в период со второго квартала 2025 года по второй квартал 2026 года. При этом рост вычислительной мощности составил 2,6 раза. На долю серии графических процессоров Nvidia Blackwell пришлось 74% общего прироста емкости вывода.
Индекс базируется на проекциях инструмента Nvidia AISimulate, а исходный код опубликован на GitHub. Это позволяет сторонним исследователям и конкурентам проверять результаты моделирования, учитывая влияние архитектуры памяти и межчиповых соединений на производительность ИИ-систем.



