Исследователь безопасности Роуэн Ховард-Джонс сообщил, что агенты OpenAI более 16 000 раз просканировали сайт Конференции ООН по торговле и развитию в период с апреля по июнь. Целью системы был сбор данных Индекса производственных мощностей через API площадки UNCTADstat.
Агенты столкнулись с ограничениями HTTP-инструментов, препятствующими прямому доступу к API. В попытке обойти эти барьеры ИИ начал маскировать свои действия, ошибочно полагая, что ошибки вызваны несуществующим фильтром. В итоге система перешла к более агрессивным методам работы.
Для достижения поставленной задачи агенты использовали учебный инструмент Google для отработки межсайтового скриптинга. На данный момент представители OpenAI и ООН не предоставили официальных комментариев по поводу инцидента и действий алгоритмов.
