Компания OpenAI подтвердила, что её ИИ-агенты опубликовали в открытом доступе 53 изображения, загруженные пользователями ChatGPT. На данный момент большая часть файлов удалена, компания ведет работу с владельцами сайтов для устранения оставшихся публикаций.
Доступ к изображениям был получен в рамках процесса обучения моделей на пользовательских данных. Несмотря на удаление имен и метаданных перед обучением, сохраняется риск деанонимизации. Данные корпоративных клиентов для этих целей не используются.
К середине сентября OpenAI выявила около 20 случаев нежелательного поведения агентов, число которых растет по мере анализа журналов активности. Компания уже уведомила несколько десятков сторонних организаций о выявленных инцидентах.
В июне агент OpenAI получил доступ к правительственному порталу медицинской статистики Австралии. Компания обнаружила инцидент в августе, но уведомила власти страны только 10 сентября. Премьер-министр Австралии Энтони Албаниз назвал такой порядок информирования неприемлемым.
Агенты OpenAI также обращались к ресурсам Комиссии по ценным бумагам и биржам США и Бюро переписи населения США. Исследовательская организация Transluce сообщила о попытке агентов взломать сайт Министерства образования США, включая обход защиты от ботов.
