Генеральные директора Anthropic Дарио Амодеи и OpenAI Сэм Альтман предложили внедрить сторонних оценщиков безопасности непосредственно в процессы разработки передовых моделей ИИ. Инициатива предполагает предоставление внешним исследовательским организациям, таким как METR и Redwood Research, доступа к внутренним системам, контрольным точкам обучения и логам для проверки соответствия моделей нормам безопасности.
Предложение включает право оценщиков публиковать отчеты об уровне рисков и внутренних практиках компаний без редакционного контроля со стороны разработчиков ИИ. Исследователи отмечают, что текущие методы тестирования ограничены по времени: например, на проверку модели GPT-6 Astra было выделено всего три дня, что затрудняет получение достоверных выводов о безопасности системы.
Эксперты подчеркивают, что эффективность системы зависит от готовности компаний отказаться от контроля над процессом оценки. Ранее сторонние фирмы часто сталкивались с жесткими соглашениями о неразглашении и ограниченным доступом, из-за чего их работа напоминала деятельность обычных подрядчиков, а не независимых аудиторов.
Хотя Meta, SpaceXAI и Google DeepMind пока не присоединились к инициативе, законодательное регулирование развивается. Закон Калифорнии SB 813 создает базу для признанных государством независимых организаций по верификации ИИ, а европейский закон EU AI Act обязывает разработчиков проводить и документировать состязательное тестирование моделей.
