На саммите AI Infra в Санта-Кларе представители Amazon Web Services, Oracle, Broadcom, Qualcomm и d-Matrix обсудили оптимизацию инфраструктуры для нужд ИИ. Эксперты отметили, что переход к задачам инференса требует создания гетерогенных вычислительных систем, объединяющих графические и центральные процессоры.
AWS развивает линейку процессоров Graviton, выпустив в июне модель Graviton5 для задач ИИ-рассуждений. Проблема нехватки памяти остается острой: по прогнозам, расходы на память для ИИ-серверов вырастут с $35 млрд в 2025 году до диапазона $175–190 млрд к 2027 году.
Qualcomm продвигает архитектуру высокополосных вычислений HBC, заявляя о шестикратном преимуществе по пропускной способности на ватт по сравнению с HBM. Стартап d-Matrix внедряет 3D DRAM в свои чипы Raptor, которые Nvidia начала использовать в архитектуре NVLink Fusion для высокопроизводительных решений.
Сетевые технологии также адаптируются под ИИ. Oracle представила архитектуру Acceleron для оптимизации передачи данных, а Broadcom использует Ethernet-фабрику и чипы Tomahawk 6 с функцией Cognitive Routing 2.0 для борьбы с перегрузками в кластерах. Эти решения призваны снизить издержки и повысить эффективность корпоративных ИИ-систем.
