Генеральный директор OpenAI Сэм Альтман представил сотрудникам три концепции обеспечения безопасности ИИ, выбор одной из которых компания должна сделать до конца 2027 года. Первый сценарий предполагает создание международного регулятора по образцу МАГАТЭ для установления стандартов безопасности и проведения независимого аудита моделей перед их выпуском.
Второй вариант, названный «планом Демиса» в честь сооснователя Google DeepMind Демиса Хассабиса, предлагает учредить исследовательскую организацию по модели CERN. В рамках такой структуры разработчики могли бы обмениваться данными о безопасности моделей, однако Альтман отметил сложность реализации этого плана из-за необходимости вовлечения правительств разных стран.
Третий, наиболее спорный сценарий, подразумевает использование преимущества компании, первой создавшей сильный ИИ, для блокировки доступа конкурентов к GPU. Альтман назвал этот подход ужасным и представил его лишь для полноты дискуссии. По мнению некоторых сотрудников, данное предложение может быть направлено против компании Anthropic.
Параллельно OpenAI ведет переговоры с Anthropic и Google о создании единого надзорного органа. Стороны планируют внедрить процедуры контроля к концу 2026 или началу 2027 года, включая размещение независимых аудиторов внутри компаний для проверки отчетов об инцидентах. Сейчас участники обсуждают, будет ли орган проводить аудит самостоятельно или делегировать полномочия.
