Строительство новых дата-центров для ИИ отстает от спроса на вычислительные мощности для инференса. Проблемы с доступом к электроэнергии, нехватка капитала и законодательные барьеры вынуждают производителей чипов искать место в существующих телекоммуникационных и колокационных объектах.

Антон Макгоннелл, вице-президент SambaNova Systems Inc., отмечает, что старые площадки не приспособлены для современных стоек с жидкостным охлаждением. Новые GPU-системы требуют усиленных полов и мощности от 120 до 250 киловатт на стойку, что делает их установку в старых зданиях дорогостоящей.

Компания SambaNova предлагает чип пятого поколения SN50, предназначенный для этапа декодирования. Система использует воздушное охлаждение, что позволяет размещать оборудование в уже существующих помещениях без масштабной реконструкции инфраструктуры.

В июле компания была оценена инвесторами в $11 миллиардов. На конференции SC26 SambaNova представила решение, сочетающее чипы SN50 для декодирования с GPU Intel серии D, которые отвечают за этап префилла, требующий высокой вычислительной мощности.

Сроки поставки оборудования для питания и охлаждения дата-центров составляют от 18 до 24 месяцев. Эти задержки в цепочках поставок, наряду с высокими затратами на строительство, замедляют ввод новых мощностей, необходимых для работы систем искусственного интеллекта.