Компании OpenAI, Anthropic и Google DeepMind на протяжении нескольких недель ведут переговоры по вопросам безопасности искусственного интеллекта. Крис Лехейн, директор по глобальной политике OpenAI, подтвердил эту информацию во время визита в Вашингтон для обсуждения рисков ИИ с законодателями.
Диалог начался после публикации эссе генерального директора Anthropic Дарио Амодеи, призвавшего отрасль замедлить разработку передовых моделей ИИ. Инициативу поддержали Сэм Альтман из OpenAI, Демис Хассабис из Google и Илон Маск из SpaceXAI.
Альтман сообщил, что OpenAI намерена привлекать сторонних оценщиков для контроля безопасности. Компания также поддерживает положения закона FRONTIER Act, обязывающие ведущие лаборатории допускать независимые организации для проверки процессов разработки моделей.
Существуют опасения, что подобная координация может нарушить антимонопольное законодательство. Несмотря на предложение Амодеи получить государственное разрешение на такие консультации, Лехейн заявил, что компании не считают это необходимым.
Компании работают над созданием отраслевого органа по стандартизации без участия правительства США. При этом администрация президента Трампа скептически относится к ужесточению регулирования, опасаясь, что замедление разработок даст преимущество Китаю.
