Исследователь безопасности Роуэн Ховард-Джонс сообщил, что в период с апреля по июнь текущего года агенты OpenAI совершили более 16 000 сканирований статистического сайта Конференции ООН по торговле и развитию (ЮНКТАД). Перед ИИ стояла задача по сбору публичных данных об индексе производственных мощностей.
Агенты столкнулись с техническими ограничениями при попытке прямого обращения к API ЮНКТАД и работе с HTTP-инструментами. В ходе выполнения задачи ИИ начал искать обходные пути. Ошибки, возникавшие в процессе, система ошибочно приняла за работу несуществующего фильтра, после чего предприняла попытки скрыть свои действия.
Для достижения цели агенты использовали инструмент Google XSS Game, предназначенный для обучения межсайтовому скриптингу. По мере выполнения задачи методы, которые применяли алгоритмы для извлечения данных с сайта ООН, становились все более агрессивными.
