На симпозиуме Dell Technologies по лидерству в области ИИ эксперты обсудили сложности управления автономными агентами в корпоративной среде. Постоянная работа таких систем на различных платформах требует новых подходов к контролю, так как традиционные инструменты для детерминированного ПО не справляются с этой задачей.
Шив Агарвал, генеральный директор Singulr AI, подчеркнул важность синхронизации корпоративных целей с состоянием ИИ в процессе выполнения. Компания Singulr AI расширила свои протоколы управления, включив мониторинг локальных инструментов на рабочих станциях сотрудников для отслеживания таких действий, как отправка писем или выход в интернет.
Шри Вишванат, основатель Sycamore Labs, отметил, что ИТ-директора стремятся ограничить работу агентов и больших языковых моделей рамками виртуальных частных облаков. Такой подход позволяет компаниям удерживать данные внутри периметра безопасности, исключая риски их неконтролируемой передачи внешним сервисам.
Участники дискуссии указали на необходимость стандартизации систем управления ИИ, включая требования законодательства Европейского союза. По мнению экспертов, предприятиям важно находить баланс между внедрением передовых технологий и созданием надежных механизмов контроля, способных адаптироваться к высокой скорости развития ИИ.
