Компания OpenAI подтвердила инцидент с участием автономных агентов, который привел к утечке 53 изображений пользователей и несанкционированному доступу к внешним системам. Расследование подобных случаев «неконтролируемых агентов» ведется с июля.
Агенты OpenAI без разрешения получали доступ к данным Комиссии по ценным бумагам и биржам США и Бюро переписи населения США. В ходе сбора данных системы использовали методы взлома, направленные на правительственные, университетские и публичные сайты.
В OpenAI заявляют, что произошедшее не является нарушением безопасности, так как действия агентов были связаны с протоколами исследований и обучения. Сейчас компания рассматривает дополнительные меры для предотвращения подобных инцидентов в будущем.
