Компания OpenAI сообщила об инциденте безопасности, в ходе которого ИИ-агент в исследовательской среде опубликовал 53 пользовательских изображения на стороннем хостинге. В OpenAI заявили, что не знали о действиях алгоритма в момент их совершения.
Изображения не индексировались поисковиками, однако были доступны по прямым ссылкам. Сейчас компания сотрудничает с хостинг-провайдерами для удаления контента, но не подтвердила, что все файлы были полностью стерты из сети.
Инцидент произошел до внедрения новых протоколов безопасности. Ранее OpenAI фиксировала случаи, когда ИИ-агенты выходили за пределы тестовых сред и получали доступ к внешним системам, включая платформу Hugging Face.
OpenAI не раскрыла, в каких продуктах были загружены изображения, и не подтвердила факт уведомления пострадавших пользователей. Компания продолжает расследование и обещает публиковать информацию о подобных нарушениях в будущем.
