Компания CoreWeave представила платформу CoreWeave Forge, объединяющую инструменты для развертывания, мониторинга, дообучения и оценки моделей. Сервис доступен бесплатно на стартовом уровне, при этом предусмотрены платные тарифы с расширенным функционалом для разработчиков.
Также компания анонсировала CoreWeave RL Rollouts — инструмент на базе фреймворка Dynamo от Nvidia Corp. Решение ускоряет итерацию агентных моделей за счет загрузки новых чекпоинтов в работающую среду. В ходе тестирования технология сократила задержку при перезагрузке моделей в 15 раз.
Провайдер переходит от предоставления только вычислительных мощностей GPU к модели полного стека, включая управляемые сервисы для обучения и инференса. Это отвечает росту спроса: согласно опросу клиентов, доля задач инференса у некоторых заказчиков из сферы здравоохранения достигнет 50% в течение года.
Оптимизация CoreWeave затрагивает все уровни инфраструктуры, включая движок vLLM, квантованные модели и специализированные декодеры. Компания делает ставку на использование открытого программного обеспечения для обеспечения гибкости своих решений.
