OpenAI предоставит независимым экспертам доступ к своим моделям на ранних этапах разработки. Ранее внешнее тестирование проводилось преимущественно на финальных стадиях перед выпуском продуктов, однако теперь компания планирует выявлять риски значительно раньше.
Программа охватывает четыре направления: анализ обоснований безопасности, проверку устойчивости к угрозам, оценку рисков по внутренней системе Preparedness Framework и изучение инцидентов, связанных с нарушением согласованности моделей. OpenAI также опубликовала семь принципов проведения таких проверок.
Компания ведет переговоры о сотрудничестве с организациями METR и Redwood Research, которые уже имели опыт совместной работы с OpenAI. На данный момент условия доступа к системам находятся в стадии обсуждения, а список новых партнеров еще не утвержден официально.
Инициатива развивает обязательства, озвученные генеральным директором Сэмом Альтманом 12 сентября. Тогда он заявил о необходимости более глубокой интеграции внешних оценщиков в операционную структуру компании, расширяя практику привлечения сторонних специалистов, начатую при создании GPT-4.
