Компания OpenAI предоставила четырем независимым организациям прямой доступ к своим внутренним ИИ-системам для проверки безопасности и анализа поведения моделей. В число партнеров вошли Apollo Research, METR, Transluce и Goodfire. Программа реализует обязательства OpenAI в рамках соглашения White House Accord on Super Intelligence.
Аудиторы получили доступ к невыпущенным моделям, исходному коду, обучающим данным и системам мониторинга непосредственно в офисах OpenAI. Им также разрешено конфиденциально общаться с разработчиками. Apollo Research изучает скрытое противодействие моделей намерениям создателей, а METR проверяет поведение ИИ в процессах обучения с подкреплением.
Goodfire анализирует внутренние процессы моделей, а Transluce оценивает механизмы проверки безопасности после обучения. Процесс контролирует независимый совет по безопасности, который выступает посредником в спорах и получает полные отчеты. OpenAI может редактировать конфиденциальные данные и откладывать публикацию отчетов для устранения выявленных рисков.
На начало 2027 года запланирован повторный восьминедельный аудит с участием Transluce. В OpenAI ожидают возможных сложностей на начальном этапе, однако компания уже рассматривает возможность расширения программы. В будущем проверки могут затронуть внутреннюю корпоративную культуру и рабочие процессы организации.




