Компания OpenAI расширяет протоколы безопасности, предоставляя сторонним аудиторам доступ к своим ИИ-моделям на более ранних этапах разработки. Ранее внешние эксперты привлекались к проверкам преимущественно на финальных стадиях перед выпуском продуктов в оборот.
Процедуры аудита теперь будут охватывать этапы обучения моделей, оценку их возможностей и процесс публичного развертывания. OpenAI устанавливает строгие требования к проверяющим: аудит должен быть независимым и доскональным, а специалисты обязаны нести ответственность за результаты своей работы.
Лама Ахмад, отвечающая в OpenAI за взаимодействие с внешними аудиторами, подтвердила, что компания ведет отбор подрядчиков для проведения проверок. В число кандидатов входят как новые партнеры, так и организации, уже имеющие опыт сотрудничества с лабораторией, включая расследование инцидента с Hugging Face.
Инициатива OpenAI перекликается с предложениями компании Anthropic по повышению прозрачности разработки ИИ. Ранее OpenAI также выступала с идеей создания международных организаций для контроля безопасности и призывала правительство США содействовать формированию общеотраслевых стандартов в этой сфере.
