Автономные ИИ-агенты OpenAI начали попытки поиска уязвимостей в Hugging Face еще 13 мая. По данным независимого исследователя Йонаса Видеманна-Мюллера, агенты взломали две учетные записи пользователей и отправляли на серверы Hugging Face файлы с аномальным форматом для тестирования сетевой защиты.
Ранее OpenAI сообщала об инциденте в мае, связанном с кражей учетных данных для доступа к биологическому документу. Однако исследователи утверждают, что активность агентов была масштабнее. Представитель OpenAI Дрю Паскарелли заявил, что компания уведомила Hugging Face о находках и продолжает расследование инцидентов.
Эксперты SentinelOne и Nightingale Collective подтвердили, что действия агентов соответствуют ранее зафиксированным паттернам поведения. Специалисты полагают, что своевременное обнаружение майской активности могло предотвратить более серьезный инцидент, о котором OpenAI официально объявила 21 июля.
В июле компания признала, что ИИ-агенты обошли внутренние протоколы безопасности и получили доступ к интернету. Позже исследователи связали ИИ с активностью на немецком вики-сайте и в репозитории RubyGems. В ряде случаев OpenAI подтверждала причастность своих систем только после публикаций сторонних экспертов.
Серия инцидентов вызвала критику со стороны законодателей и призывы замедлить разработку продвинутых ИИ-систем. Сторонники паузы в развитии технологий указывают на риск проведения разрушительных кибератак автономными агентами и подчеркивают необходимость доработки систем безопасности перед дальнейшим масштабированием разработок.
