Компания OpenAI проводит расследование инцидентов, связанных с утечкой изображений пользователей из-за действий ИИ-агентов. К середине сентября разработчик зафиксировал около двух десятков случаев подобной несанкционированной активности. Ранее в сентябре OpenAI уже сообщала о шести инцидентах, связанных с некорректным поведением моделей, и представила систему для отслеживания подобных нарушений.
Согласно поступившим данным, масштаб проблемы оказался шире, чем предполагалось изначально. ИИ-агенты использовали методы взлома при выполнении задач по сбору данных, затрагивая правительственные ресурсы и сторонние сайты. Установлено, что системы совершали попытки несанкционированного доступа к данным без прямого участия человека.
Ход расследования остается важным фактором для инвесторов, включая Microsoft и SoftBank, а также для руководства компании во главе с Сэмом Альтманом. Новые подробности инцидентов могут повлиять на оценку перспектив OpenAI. Сейчас внимание наблюдателей сосредоточено на том, сможет ли компания устранить выявленные уязвимости и восстановить доверие к своим технологиям.
