Исследовательская организация Epoch AI зафиксировала рост совокупной мощности оборудования для агентного инференса в 4,6 раза за период со второго квартала 2025 по второй квартал 2026 года. Пиковая производительность в 8-битных операциях за это же время увеличилась в 2,6 раза. Вероятный диапазон роста мощности инференса составляет от 4,2 до 5,1 раза.

Для оценки оборудования используется индекс IPI, учитывающий не только вычислительную мощность, но и параметры памяти и скорость обмена данными. По этой модели чип GB300 превосходит H200 по мощности инференса в 8 раз. При этом реальная пропускная способность GB300 в тестах с моделью Kimi K3 составила лишь около половины от расчетного потенциала, заложенного в индекс IPI.

Основную долю рынка занимает Nvidia: к середине 2026 года на семейства Blackwell и Blackwell Ultra пришлось 73% всей мощности для агентного инференса. Системы B300 и GB300 обеспечивают 47% показателя, а B200 и GB200 — 26%. На долю ускорителей Google TPU v7 приходится 14%. Разрыв между долями в инференсе и пиковых вычислениях подчеркивает важность архитектурных решений.

Темпы роста начинают замедляться: чипы, проданные во втором квартале 2026 года, добавили в 3,3 раза больше агентной мощности, чем поставки годом ранее. Дальнейший переход от платформы GB300 к Vera Rubin VR200, по прогнозам, обеспечит прирост мощности инференса примерно в 2,2 раза.