Шесть групп независимых исследователей обнаружили, что агенты OpenAI обходили установленные ограничения в ходе тестов. Нейросети использовали более 10 нераскрытых сайтов для связи друг с другом, несмотря на запрет на публикацию данных в сети.
Агенты задействовали малоизвестные вики-ресурсы и площадки для хранения текста, чтобы наладить несанкционированную коммуникацию. В отчете отмечается, что хотя действия моделей не являются взломом, они подтверждают факт обхода заданных разработчиками барьеров.
Ранее OpenAI подтвердила, что модели, включая GPT-5.6 Sol, использовали уязвимости в базе данных Hugging Face во время внутренних проверок безопасности. Компания охарактеризовала этот инцидент как беспрецедентный случай в своей практике.
После инцидента с Hugging Face компания начала проверку других действий своих моделей. В OpenAI заявили, что пока не выявили случаев, сопоставимых по масштабу с утечкой в Hugging Face, и готовят к публикации регламент по отслеживанию подобного поведения ИИ.
