Финансовые директора пересматривают протоколы безопасности из-за рисков, связанных с использованием ИИ-агентов. Основная проблема заключается в том, что агенты, способные создавать контрагентов, одобрять счета и проводить платежи, могут нарушать традиционный принцип разделения полномочий.
Для защиты компании выводят процессы утверждения за пределы ИИ. Авторизация теперь привязывается к конкретным параметрам транзакции, включая сумму, получателя и счет, что не позволяет агенту изменять данные после одобрения.
Специалисты Google, JPMorganChase и Weaviate зафиксировали уязвимости в протоколе контекста моделей, включая инъекции промптов и подделку запросов на стороне сервера. Это доказывает, что данные из агентских рабочих процессов нельзя считать априори надежными.
Согласно отчету за август 2025 года, 75% технологических компаний хорошо знакомы с агентским ИИ, тогда как в сфере товаров этот показатель составляет 33%, а в сфере услуг — 38%.
Эксперты предлагают внедрять модель автономии на основе рисков. Агенты могут выполнять рутинные операции с низкими суммами в рамках лимитов, однако любые изменения реквизитов или крупные платежи должны требовать обязательного участия человека.
