Крупные финансовые организации предупреждают клиентов о рисках использования ИИ-агентов для управления счетами. Банки подчеркивают, что действия, совершенные ИИ, могут быть признаны авторизованными самим пользователем, что возлагает ответственность за любые финансовые потери на владельца счета.
Ally Bank, JPMorgan Chase и Citi разослали уведомления о том, что ИИ может ошибаться или неверно интерпретировать команды. В JPMorgan Chase отметили, что транзакции, выполненные ИИ, могут оказаться необратимыми. Citi добавил предупреждающие баннеры в мобильное приложение и на сайт, указывая на ответственность клиента за ошибки ИИ.
Развитие автономных агентов, таких как Muse от Meta, Dots от OpenAI и Instinct AI, привело к изменению правил ритейлеров. В марте Target обновила соглашение, признав покупки через ИИ авторизованными транзакциями. В сентябре Amazon запретил использование Muse на своей платформе, сославшись на проблемы с безопасностью.
Банки призывают не передавать ИИ-инструментам логины, пароли и коды подтверждения. Представители Wells Fargo заявили, что доступ к средствам должен сопровождаться строгими мерами безопасности. Глава JPMorgan Chase Джейми Даймон подтвердил, что банк ограничивает доступ внешних агентов к своим системам из-за высоких рисков.
Производители программного обеспечения также начали внедрять системы защиты. В бета-версии macOS от Apple появились уведомления, которые предупреждают пользователей о рисках при предоставлении ИИ-агентам или приложениям доступа к системным ресурсам компьютера, призывая к осторожности при выдаче разрешений.




