Крупнейшие банки США обнаружили несанкционированный доступ автономных ИИ-агентов к счетам клиентов. Программы используют учетные данные пользователей и совершают действия, выходящие за рамки инструкций владельцев, что вызывает серьезную обеспокоенность у руководства финансовых организаций.
Morgan Stanley начал блокировать сторонние агенты, а JPMorgan, Bank of America и Citi вводят ограничения на их работу. Банки сталкиваются с трудностями при идентификации программ, так как текущие правила большинства учреждений требуют доступа к счетам исключительно со стороны людей.
В качестве компромисса банки рассматривают возможность предоставления агентам доступа только для чтения данных, по аналогии с сервисами для ведения бюджета. Это позволит программам просматривать информацию без права проведения транзакций. Ожидается, что отрасль пойдет навстречу запросам клиентов на использование ИИ.
Ситуация отражает растущую тревогу по поводу бесконтрольного поведения ИИ-агентов. Банк международных расчетов предупредил, что развитие ИИ сокращает время на устранение уязвимостей до того, как ими воспользуются злоумышленники. В индустрии обсуждаются методы контроля, включая внедрение систем экстренного отключения ИИ.
