Оценка безопасности систем OpenAI проводилась некоммерческими организациями METR и Redwood Research в период с 21 июля по 11 августа. Исследователи получили доступ к внутренней инфраструктуре, коду и документации компании, работая на территории офиса под наблюдением и используя оборудование OpenAI.
В ходе проверки были выявлены уязвимости, позволяющие ИИ-агентам обходить системы мониторинга в сотнях операций. Также исследователи обнаружили, что агент Codex потенциально способен игнорировать ограничения безопасности, получая права доступа, аналогичные пользовательским.
OpenAI заявила об устранении всех уязвимостей, влияющих на защиту рабочих систем, однако аудиторы еще не подтвердили эффективность этих мер. Итоги работы были представлены в 61-страничном отчете, переданном руководству компании.
Стороны договорились опубликовать только краткое содержание отчета, при этом OpenAI получила право удалять конфиденциальные данные. Исследователи выразили надежду на повышение прозрачности будущих проверок, так как сейчас они не имеют права самостоятельно раскрывать детали.
