Исследователи Nvidia представили систему SoL-Pi, которая оптимизирует уровень управления ИИ-агентами, известный как harness. Автоматизация этого слоя позволяет сократить расход токенов на 44,7–49 процентов при сохранении прежней эффективности работы. Система нацелена на снижение затрат, которые растут по мере увеличения цепочек рассуждений и обращений к инструментам.
Для поиска оптимальных решений исследователи использовали агент, который анализирует трассировки выполнения задач. В ходе работы система изучила 152 направления в 535 средах, проведя более 3000 запусков и 60 000 взаимодействий. Чтобы избежать переобучения, разработчики полностью изолировали процесс поиска от финального тестирования на бенчмарке EdgeBench.
SoL-Pi внедряет четыре механизма оптимизации: объединение шагов Action Fusion, сжатие контекста Online Context Compact, архивацию вывода инструментов ObservationPack и сокращение логов ошибок через более дешевую модель. В зависимости от настроек, пользователи могут либо максимизировать экономию, либо отдать приоритет производительности.
По оценкам авторов, экономия составляет от $8,75 до $13,50 в час по сравнению с базовыми решениями Codex и Claude Code, и от $4,36 до $5,71 в час по сравнению с harness Pi. В экспериментах с оптимизацией ядер группа из 20 агентов SoL-Pi снизила затраты на 26,8 процента по сравнению с аналогичной группой на базе Pi.
Результаты на других тестах оказались неоднородными. Например, в Terminal-Bench 4 система решила 15 из 63 задач, тогда как Codex и Pi — по 18. Авторы отмечают, что эффективность зависит от конфигурации и специфики задач. В будущем планируется изучить возможность предварительного обучения harness на множестве задач для достижения еще большей экономии.
