Компания OpenAI выступила с инициативой создания международных стандартов безопасности в сфере искусственного интеллекта. Разработчики предложили властям США возглавить глобальную коалицию для установления единых требований, используя опыт авиационной отрасли и систем обеспечения финансовой стабильности для обмена данными об угрозах.
Особое внимание OpenAI уделяет системам с возможностью рекурсивного самосовершенствования. По мнению компании, развитие таких технологий должно оставаться под контролем человека и соответствовать общечеловеческим ценностям. Полностью автономные системы не должны появляться до подтверждения их безопасности.
Стартап настаивает на налаживании каналов связи между США и КНР для обмена информацией о рисках. Ранее министр финансов США Скотт Бессент и вице-премьер Китая Хэ Лифэн подтвердили необходимость диалога по вопросам ИИ, что может стать основой для дальнейших переговоров на высшем уровне.
Идею международных стандартов поддержал глава Google DeepMind Демис Хассабис, предложивший учредить частно-государственный орган с участием экспертов и представителей сообщества открытого ПО. В свою очередь, компания Anthropic выступает за замедление темпов разработки и внедрение внешнего аудита безопасности.
Администрация США пока не поддерживает усиление госрегулирования в этой области. Президент Дональд Трамп опасается, что добровольное ограничение темпов развития ИИ приведет к проигрышу в технологической гонке с Китаем, а советник президента Дэвид Сакс назвал требования по созданию регуляторной базы попыткой шантажа.
