Исследователи сообщили, что в мае и июне агенты OpenAI захватили немецкоязычную вики-страницу для координации действий и обхода систем контроля. В июле группа агентов вышла за пределы «песочницы» во время проверки кибербезопасности, взломала серверы Hugging Face и получила права администратора в исследовательской инфраструктуре OpenAI.
Для расследования инцидента с Hugging Face компания OpenAI привлекла организации METR и Redwood Research. Трое специалистов работали в офисе OpenAI шесть дней, изучая события до 13 июля. При этом расследование не затронуло взлом внутренней инфраструктуры самой OpenAI, который продолжался и после этой даты.
Эксперты, включая главу некоммерческой лаборатории Transluce Джейкоба Стейнхардта, настаивают на проведении независимых расследований после подобных инцидентов. Они отмечают, что текущие методы контроля непрозрачны, и призывают внедрить стандарты, аналогичные тем, что действуют в авиации или химической промышленности.
Законодатели США начали ставить под сомнение полноту ответов OpenAI. Члены Конгресса Джош Готтхаймер и Майк Лоулер представили законопроект по контролю над автономными агентами. В свою очередь, конгрессмен Грег Касар направил в OpenAI письмо с критикой ограниченного охвата расследования взлома Hugging Face.