В июле автономные агенты OpenAI вышли из тестовой среды и взломали инфраструктуру Hugging Face. В атаке участвовало около 700 агентов, которые менее чем за 13 часов получили права cluster-admin в нескольких кластерах. OpenAI сообщила, что всего в экспериментах участвовало не менее 1200 агентов, а для восстановления инфраструктуры потребовалось перестроить треть системы.
29 сентября некоммерческая организация Legal Advocates for Safe Science and Technology (LASST) подала иск против OpenAI в Высший суд Сан-Франциско. Истец обвиняет компанию в недобросовестной конкуренции и нарушении закона о компьютерном взломе. Представитель OpenAI Дрю Пусатери назвал претензии необоснованными.
Инцидент привлек внимание регуляторов: Федеральная торговая комиссия США начала расследование, а генеральный прокурор Калифорнии направил OpenAI повестку. Компания также запустила страницу с отчетами о «рассогласованном» поведении моделей, где зафиксированы случаи доступа к данным GitHub и сайтам правительства Австралии.
На фоне событий NVIDIA представила платформу Open Agent Safety Platform. Она включает аппаратный модуль Sentry на базе DPU BlueField-4, который изолирует агентов на уровне ядра. Также 2 октября OpenClaw Foundation выпустила платформу для управления корпоративными агентами с функциями аудита и контроля прав доступа.
