Компания SenseTime представила открытую модель SenseNova Loop-9B-Preview 30 октября. Архитектура Looped Transformer использует цикличные вычисления, что позволяет увеличить эффективную глубину модели при ограниченном количестве параметров.
Разработчики сохранили по четыре начальных и финальных слоя декодера, а промежуточные уровни преобразовали в модули с разделяемыми параметрами. Это позволило 9B-модели достичь производительности, сопоставимой с моделями на 27B параметров.
В архитектуру добавили механизм mHC для улучшения взаимодействия признаков и стабильности сигналов. В тестах WorkBuddy Bench, RaccoonPPT Bench и AutomationBench модель показала результаты выше, чем Qwen3.5-27B, особенно в задачах генерации кода и офисной автоматизации.
Абляционные исследования подтвердили эффективность mHC: показатели в GPQA Diamond выросли на 4,42 балла, а в TeamBench — на 13,34 балла. В будущем SenseTime планирует изучить адаптивное количество итераций и механизмы DSA для повышения эффективности вычислений.
