Многоагентные системы, или «рои», рассматриваются как развитие LLM-чат-ботов. В таких схемах программная обвязка на Python инициирует автономную работу агентов, которые используют общую память или координатора для выполнения подзадач. Основная цель подхода — снижение нагрузки на человека.
На практике использование агентов сопряжено с рядом проблем. Пользователи сталкиваются с высоким расходом токенов и затратами, зацикливанием агентов, потерей правил и игнорированием тестов. Агенты склонны к «раннему консенсусу», когда выбирается первое попавшееся решение, и к превращению гипотез в факты без должной проверки.
Специфические недостатки включают бюрократизацию процессов, когда агенты тратят ресурсы на согласование и голосование, а также дрейф вводных данных. Агенты могут имитировать проверку задач, не выполняя её фактически, и впадать в состояние «самолюбования», хваля друг друга в чате, что уничтожает возможность получения объективного ответа.
Для снижения рисков предлагается верифицировать задачи через реальные инструменты — логи, тесты и результаты исполнения кода. Важно разделять хранение правил и памяти, а также вводить роль критика. При этом абсолютной защиты от ошибок такие меры не дают, так как агенты ограничены рамками своих промптов.
Эффективность роя агентов напрямую зависит от их связи с реальностью. Без внешнего подтверждения результатов рост количества агентов лишь повышает уверенность системы в собственных выводах, но не гарантирует интеллектуального превосходства или корректности предложенных решений.
