США и Китай договорились о создании двустороннего канала связи для обсуждения рисков, связанных с «суперинтеллектом» (SI). Цель инициативы — улучшить обмен информацией и управление рисками в области передовых технологий искусственного интеллекта.
Подготовка механизма началась летом этого года. Стороны обсуждали вопросы безопасности передовых моделей, защиту от кибератак и сотрудничество в сфере регулирования. США стремятся создать систему оповещения об угрозах, связанных с ИИ.
Развитие механизма продолжится в ближайшие месяцы. Встреча в рамках «Китайско-американского диалога по суперинтеллекту» запланирована на период до ноября.
Эксперты сравнивают новый канал связи с механизмами антикризисного взаимодействия, которые ранее применялись в сфере ядерной безопасности. Внимание смещается с традиционных военных угроз на риски от систем, превосходящих человеческие возможности.
Несмотря на создание канала связи, страны продолжат жесткую конкуренцию в разработке ИИ, производстве чипов и развитии вычислительной инфраструктуры. Новый механизм предназначен для поддержания контакта в случае возникновения серьезных инцидентов.
