Компании Perplexity Research и NVIDIA представили метод обучения нейросетей под названием JOLT (Joint On-Policy Learning and Teaching). Технология позволяет одной модели одновременно выступать в роли учителя и ученика, используя привилегированные данные для формирования детальной обратной связи.
На бенчмарке MATH метод JOLT показал точность, сопоставимую с Group Relative Policy Optimization (GRPO), при этом затратив в 6,5 раза меньше обучающих токенов. Подход основан на плотной дистилляции, где модель получает корректирующие сигналы на протяжении всего процесса рассуждений.
Улучшенная версия JOLT+ показала преимущество в 9,9 процентного пункта над GRPO на тестах AppWorld. Исследователи протестировали метод на нескольких архитектурах, включая DeepSeek-V2-Lite и различные версии модели Qwen3.
Разработка направлена на снижение вычислительных затрат при обучении больших языковых моделей. Плотная обратная связь призвана заменить разреженные сигналы о конечном результате, что особенно важно для задач с длинными цепочками рассуждений, где критически важна точность на каждом этапе.
