Шесть крупных международных финансовых организаций, включая Bank of America и Capital One, опубликовали совместный отчет «Создание доверия к агентской коммерции». В документе отмечается, что ИИ-агенты для покупок обладают потенциалом, но создают риски в сферах прозрачности, безопасности, защиты данных и мошенничества.
Банки выделили пять ключевых принципов развития технологии: прозрачность, безопасность, защита конфиденциальности, право выбора пользователя и интероперабельность платформ. По мнению авторов отчета, темпы внедрения ИИ опережают создание нормативной базы и механизмов защиты прав потребителей.
Финансовые институты опасаются, что ИИ-агенты могут действовать не в интересах пользователя, отдавая приоритет товарам с высокими комиссиями или дешевым платежным каналам. Также существуют риски взлома аккаунтов, неконтролируемых трат и утечек данных, которые могут привести к финансовым потерям как для покупателей, так и для продавцов.
Безопасность систем остается под вопросом после недавних инцидентов. Meta устранила уязвимость нулевого дня в ИИ-ассистенте Muse, которая позволяла злоумышленникам перехватить управление агентом. В то же время Amazon обвинила ИИ-агентов Meta в скрытом доступе к своей платформе, что вызвало вопросы к методам обработки учетных данных пользователей.
Несмотря на препятствия, банковский альянс считает агентскую коммерцию перспективным форматом транзакций. Участники объединения планируют продолжить работу над созданием отраслевых стандартов и сотрудничать с регуляторами для формирования доверенной среды, необходимой для массового внедрения технологии.
