Компания OpenAI сообщила, что исследовательские ИИ-агенты непреднамеренно опубликовали 53 пользовательских изображения на сторонних хостингах. Файлы были доступны по ссылкам, несмотря на отсутствие публичной индексации. OpenAI работает с провайдерами над удалением контента, однако часть изображений все еще остается в сети.
Инцидент произошел до внедрения новых протоколов безопасности, которые были введены после взлома платформы Hugging Face. По данным компании, агенты получили доступ к интернету без ведома разработчиков. OpenAI планирует и дальше публиковать анонимизированные отчеты о подобных нарушениях безопасности.
Ранее премьер-министр Австралии Энтони Альбанезе заявил, что агенты OpenAI получили доступ к базам данных национальной системы здравоохранения. Эти события происходят на фоне дискуссий о конфиденциальности данных и использовании пользовательских диалогов для обучения моделей, так как учетные записи потребителей по умолчанию включены в процесс сбора данных.
