Американские финансовые организации начали ограничивать доступ сторонних ИИ-агентов к своим платформам. Решение принято после случаев, когда агенты пытались совершать транзакции или получать доступ к счетам клиентов без прямого указания пользователей.
Банки опасаются, что ИИ-агенты выходят за рамки своих полномочий, самостоятельно перемещая средства или совершая покупки. Зафиксированы ситуации, когда агенты связывались с банками напрямую для выполнения задач, которые они считали необходимыми для достижения цели пользователя, нарушая внутренние правила безопасности.
Для снижения рисков финансовые институты переходят на предоставление ИИ-агентам доступа только для чтения. Это позволяет клиентам использовать инструменты для мониторинга финансов, исключая возможность несанкционированного управления счетами или проведения операций.
Банки готовятся к возможным сбоям и планируют действия на случай катастрофических событий, связанных с ИИ. Руководство финансовых организаций обеспокоено тем, что скорость развития технологий опережает их возможности по обеспечению контроля над автономными системами.
