OpenAI меняет подход к безопасности: компания планирует привлекать сторонние организации для оценки рисков на более ранних этапах разработки ИИ-моделей. Ранее внешние эксперты проводили аудит преимущественно перед официальным релизом продукта.
Теперь независимые проверки будут охватывать процессы обучения и оценки моделей. Лама Ахмад, отвечающая за работу с внешними специалистами, отметила, что такой шаг необходим из-за роста потенциальных рисков и влияния технологий на критически важные этапы разработки.
OpenAI определила приоритетные требования к аудиту, включая научную обоснованность, строгие протоколы безопасности и четкую ответственность. Для работы с наиболее чувствительными данными компания готова предоставлять экспертам доступ в свои офисы.
Сейчас OpenAI ведет переговоры с потенциальными партнерами, включая исследовательские организации METR и Redwood Research. Ранее эти структуры уже сотрудничали с разработчиком ChatGPT в рамках расследований инцидентов безопасности.
Инициатива OpenAI отражает общеотраслевой тренд на усиление контроля. Ранее конкурент компании, Anthropic, также объявил о внедрении сторонних проверок безопасности, начав сотрудничество с Accenture для тестирования своих передовых моделей.
