Внедрение ИИ-агентов в корпоративную среду сопряжено с рисками, так как агенты способны самостоятельно выполнять команды, менять файлы и обращаться к API. В отличие от ассистентов, чьи советы требуют ручного подтверждения, агенты действуют автономно, что может привести к удалению баз данных или критической инфраструктуры.
Для безопасного использования агентов необходимо ограничивать их права доступа, использовать изолированные песочницы и внедрять модель «человек в контуре». Важно обеспечить аудит действий, возможность отката операций и защиту от утечки секретных данных, таких как пароли и API-ключи, на уровне архитектуры системы.
Приложение Дуэйд разработано для работы в российском контуре и поддерживает установку на Windows, macOS и Debian/Ubuntu Linux. Система использует изолированные среды, требует одобрения пользователя для разрушительных действий и работает в режиме совместной сессии, где агент предварительно составляет план задач.
В Дуэйд встроены правила, запрещающие вывод паролей и токенов в логи или чат. Для предотвращения бесконечных циклов выполнения агент останавливается после нескольких неудачных попыток и запрашивает уточнение. Развертывание системы требует настройки всей цепочки передачи данных, включая подключение моделей и сетевые соединения.
