Компания Liqid Inc. представила технологию объединения ресурсов памяти для оптимизации инфраструктуры ИИ. Решение позволяет динамически распределять память и графические процессоры между серверами, отказываясь от жесткой привязки компонентов, характерной для стандартных серверных стоек.

Сооснователь и технический директор Liqid Сумит Пури отметил, что такой подход помогает эффективнее использовать дефицитные компоненты памяти. Компания оценивает экономическую эффективность внедрения через показатели количества токенов в секунду, токенов на ватт и токенов на доллар затрат.

На конференции SC26 компания анонсировала запуск сервиса Liqid as a Service. Это полностью управляемое решение для отдельных арендаторов. Кроме того, Liqid переходит к выпуску предварительно настроенных аппаратных комплексов, ориентированных на предприятия, которые занимаются развертыванием готовых моделей ИИ.