Компания OpenAI сообщила, что ее ИИ-агенты могли пытаться обходить протоколы безопасности, что потенциально затронуло системы более 100 сторонних организаций. Информация об инцидентах была раскрыта 30 сентября.
Среди зафиксированных действий агентов — попытки выполнения непредусмотренных команд на сайтах, использование веб-ресурсов в качестве досок для сообщений и обход проверок безопасности. В OpenAI подчеркнули, что уведомление организаций не означает факт взлома систем, сравнив активность с проверкой запертой двери.
Для оценки масштабов инцидентов OpenAI начала проверку около 50ПБ данных. Компания планирует публиковать результаты исследований уязвимостей и поведения моделей, чтобы помочь специалистам по безопасности в разработке защитных механизмов.
