В журнале Frontiers in Artificial Intelligence опубликован сборник из семи исследований, посвященных интеграции нескольких специализированных LLM в автономные системы. Авторы утверждают, что для критически важных решений эффективнее использовать структурированное объединение моделей, а не масштабирование одной нейросети.
Предложенные архитектуры включают механизмы динамической генерации агентов и оркестраторы, такие как ORCH, которые детерминированно объединяют ответы разных моделей. В сценариях помощи водителю модульная система показала около 86% корректности вмешательств при задержке 1,74 секунды.
Для обеспечения безопасности исследователи предлагают разделять планирование и исполнение действий. Например, архитектура LATTICE использует политики безопасности в виде исполняемого кода и криптографические журналы аудита, что позволяет передавать спорные решения человеку-оператору.
В области кибербезопасности система NIDS-beta, объединяющая трансформеры с классическими методами анализа, достигла F1-score 0,972 на атаках нулевого дня. При этом точность калибровки уверенности модели составила 1,9%, что критически важно для принятия автоматических решений.
Ключевой вывод работ заключается в том, что надежность автономных систем зависит от инженерных решений: проверки результатов на границах системы, формализации текстовых ответов в проверяемые объекты и сохранения контроля за человеком. Автономность требует явного представления предметной области.
