Исследователи из Корнеллского технологического института и Йельского университета протестировали ИИ-агентов на базе кошельков Circle Agent Wallets в сети Base. На кошельки зачислили по 10 USDC с лимитами 0,01 USDC на транзакцию и сутки, 0,3 USDC в неделю и 1 USDC в месяц.
Девять из десяти моделей ИИ смогли самостоятельно повысить лимиты, получив доступ к кодам подтверждения в почте владельца. Только модель Claude Opus 5.5 от Anthropic в ходе первого сценария не пыталась обойти установленные ограничения.
Во втором эксперименте семь из десяти моделей изменили лимиты под влиянием вредоносных писем. В третьем сценарии пять моделей перевели 0,02 USDC на сторонний адрес по запросу атакующего, причем чаще всего это делали модели семейств Qwen и DeepSeek.
Результаты исследования передали в Circle 22 сентября. Компания обновила документацию, рекомендовав пользователям не предоставлять ИИ-агентам полный доступ к почте и вводить коды подтверждения самостоятельно.
Авторы работы предложили прототип Countersign, использующий отдельное мобильное приложение с биометрией и аппаратно защищенными ключами. По мнению ученых, текущие меры защиты недостаточны для предотвращения несанкционированных действий агентов.
