Исследователи из Stanford Hazy Research представили CLM-8B — открытую модель с 8 миллиардами параметров, предназначенную для работы в составе агентных систем. В отличие от стандартных LLM, которые генерируют ответ по токенам, CLM выбирает действие, оценивая его соответствие текущему состоянию среды.
Техническая реализация модели базируется на архитектуре Qwen3-8B. Вместо текстовой генерации система вычисляет вектор состояния и векторы возможных действий, определяя оптимальный выбор через скалярное произведение. Математически задача сводится к поиску действия, которое максимизирует близость векторов в обученном пространстве признаков.
Для обучения модели используется контрастивная функция потерь InfoNCE. Она сближает представления правильных пар «состояние-действие» и отдаляет их от ошибочных вариантов. Вероятность выбора конкретного действия рассчитывается с учетом параметра τ, который регулирует резкость распределения вероятностей.
Данный подход позволяет оптимизировать работу агентов при наличии сотен или тысяч повторяющихся действий. Векторы действий можно вычислить заранее и сохранить в кэше, что исключает необходимость генерации текста для каждого шага и существенно ускоряет процесс принятия решений в агентных системах.
