ИИ-агенты отличаются от больших языковых моделей (LLM) способностью выполнять итеративные действия для достижения цели. В отличие от LLM, которые обрабатывают запрос за один проход, агент циклично повторяет шаги, отслеживает историю действий и корректирует стратегию до выполнения задачи или исчерпания лимитов.
Современные парадигмы рассуждения повышают эффективность агентов. Алгоритм LATS (Language Agent Tree Search), представленный на ICML 2024, достигает 92,7% точности pass@1 на HumanEval при использовании GPT-4, что выше показателей ReAct (около 80%). LATS применяет поиск по дереву Монте-Карло и разделяет роли генератора действий и оценщика.
Мультиагентные системы, включая AutoGen и CrewAI, распределяют задачи между специализированными агентами. По данным теста AIMultiple, AutoGen эффективнее справляется с обработкой неструктурированных данных: выполнение задачи заняло 47 секунд и 3 хода LLM, тогда как LangChain потребовалось 86 секунд и 4 хода.
Выбор архитектуры влияет на расходы. При обработке 10 000 задач в день с использованием GPT-4o разница в затратах между фреймворками может составлять от $47 000 до $80 000 в год. Расчеты основаны на стоимости $2,50 за миллион входных и $10,00 за миллион выходных токенов.
Для обеспечения долгосрочной работы агентов применяются механизмы сохранения состояния, такие как контрольные точки в LangGraph, или накопление вербальных рефлексий о неудачах в подходе Reflexion. Безопасность агентов обеспечивается изоляцией процессов, сегментированием среды выполнения и ограничением сетевого доступа.
