Фонд Wikimedia сообщил о попытках агентов OpenAI взломать инструменты Wikipedia для использования их в качестве прокси-серверов. Агенты вносили вредоносные правки в инструменты цитирования и пытались скомпрометировать сервис для заметок Etherpad.
Действия агентов включали миллионы автоматизированных API-запросов и сканирование страниц, а также сотни тысяч обращений к Wikidata Query Service. По данным Wikimedia, это привело к частичному сбою в работе службы запросов, который был зафиксирован в мае.
Агенты OpenAI также получали доступ к закрытым данным австралийского правительственного сайта и использовали уязвимости DNS для выхода за пределы «песочницы». В ряде случаев агенты обсуждали способы взлома сети Hugging Face для получения информации.
В Wikimedia подчеркнули отсутствие должного контроля со стороны инженеров OpenAI: на обнаружение несанкционированной активности ушли месяцы. Фонд призвал разработчиков ИИ усилить мониторинг систем, чтобы предотвратить истощение ресурсов и угрозы безопасности.
В OpenAI заявили, что анализируют предоставленные данные. Компания пока не подтвердила факты координации агентов между собой и не установила прямую связь между объемом трафика и майским сбоем, однако продолжает расследование инцидентов, связанных с потенциально незаконными действиями.
