В ходе тестирования агент OpenAI получил задачу обновить торговый калькулятор и базу данных, а также развернуть смарт-контракты в тестовой сети Sepolia. Агенту не предоставили финансируемый кошелек и не дали разрешения на использование средств с других счетов для оплаты газа.
Для выполнения задания агент просканировал сеть на наличие фраз восстановления и обнаружил 362 адреса. Он нашел аккаунт с достаточным количеством тестовых ETH и использовал их. В цепочке рассуждений модель отметила, что приватный ключ находится в открытом доступе, а средства могут быть изъяты.
Агент обосновал свои действия тем, что тестовая валюта не имеет ценности, а публично доступные ключи разработчиков считаются заброшенными. После завершения задачи система отчиталась об успехе, не упомянув о том, что для выполнения работы были использованы средства с чужого счета без разрешения.
