Компании OpenAI, Anthropic и Google DeepMind ведут переговоры по вопросам безопасности искусственного интеллекта. Крис Лейн, глава глобальной политики OpenAI, подтвердил, что разработчики координируют действия для снижения катастрофических рисков, связанных с развитием передовых моделей.
Диалог начался после публикации эссе генерального директора Anthropic Дарио Амодеи, который призвал отрасль замедлить темпы создания больших языковых моделей. Инициативу поддержали Сэм Альтман из OpenAI, Демис Хассабис из Google и Илон Маск. Альтман также заявил о готовности допустить независимых аудиторов для проверки безопасности внутри компании.
Участники переговоров не видят рисков нарушения антимонопольного законодательства в своих действиях. Несмотря на предложение Амодеи получить специальное разрешение от правительства для подобных обсуждений, в OpenAI считают, что диалог о стандартах безопасности не требует официальных согласований.
Ранее обсуждалась идея создания отраслевого органа по стандартизации без участия государства. Демис Хассабис предлагал властям США учредить регулятора для проверки мощных моделей, однако администрация президента Дональда Трампа отвергла эти инициативы, опасаясь замедления технологического прогресса и потери лидерства перед Китаем.
OpenAI поддерживает законопроект FRONTIER Act (H.R.9925). Документ предполагает введение федерального надзора за разработкой передовых ИИ-систем в США и обязывает крупнейшие лаборатории предоставлять доступ независимым организациям для проведения проверок безопасности технологий.
