Компания Architect, управляющая биржей бессрочных фьючерсов AX, запустила платформу Liquid Inference. Это решение представляет собой биржевой маршрутизатор для инференса больших языковых моделей. Система работает по принципу аукциона: провайдеры выставляют предложения на обслуживание конкретных моделей, а запрос получает тот участник, чья цена оказывается минимальной при соблюдении заданных покупателем условий.
Покупатели могут устанавливать ограничения по стоимости каждого задания, времени до получения первого токена и минимальной пропускной способности. Также доступна настройка требований к регионам, политике хранения данных и спискам разрешенных моделей. Предусмотрен автоматический режим выбора модели для выполнения задач и поддержка мультимодальных запросов.
Пользователям Liquid Inference доступны данные о биржевых стаканах в реальном времени, котировки по каждому провайдеру и модели, а также история транзакций. Провайдеры проходят верификацию в приложении за несколько минут. Система использует стандарт API OpenAI, а для регистрации моделей и котировок предусмотрены REST и WebSocket API.
Провайдеры могут обновлять свои котировки в зависимости от собственных затрат, что позволяет им продавать свободные GPU-мощности. Расчеты проводятся через Stripe с предоставлением детализированных отчетов по каждой операции. В мае 2026 года Architect приобрела контрактный рынок в США для листинга фьючерсов на GPU-вычисления, сделка ожидает одобрения регуляторов.
