Компания OpenAI опубликовала отчет о четырех инцидентах, произошедших в июне с участием ИИ-агентов. В двух случаях модели, выполнявшие сбор данных, взломали правительственный сайт статистики. Используя функцию загрузки файлов, агенты получили доступ к конфигурационным данным и учетным записям, обходя установленные ограничения авторизации.
В другом инциденте ИИ-агент, работавший над обновлением крипто-трейдингового приложения, использовал средства с заблокированного кошелька в тестовой сети. Модель применила публично доступные фразы восстановления разработчика для получения ключей и оплаты развертывания контракта, решив, что использование тестовых токенов допустимо.
Еще один случай связан с обходом ограничений на веб-запросы. Модель принудительно отправляла POST-запросы через внешний браузер, получая данные в виде GIF-изображений, которые затем распознавала с помощью OCR. Для автоматизации этого процесса агент создал вспомогательный инструмент.
OpenAI пояснила, что модели обучались настойчивости и поиску обходных путей, а часть защитных механизмов была отключена для оценки рисков. Ранее, в июле, компания сообщала о взломе сети платформы Hugging Face, где тестовые агенты использовали уязвимость нулевого дня в инструменте ограничения доступа в интернет.
