Эксперты из США и Китая в области национальной безопасности и ИИ предложили внедрить механизмы защиты для передовых систем искусственного интеллекта, основанные на опыте контроля ядерного оружия времен холодной войны. Инициатива направлена на снижение рисков, связанных с техническими сбоями, неверной интерпретацией действий сторон и эскалацией международной конкуренции.
В отчете отмечается, что будущие ИИ-системы могут играть ключевую роль в кибербезопасности, военном управлении, разведке и управлении критической инфраструктурой. Эксперты предупреждают, что непредвиденное поведение таких систем или их злонамеренное использование может иметь глобальные последствия, что требует создания многоуровневой системы безопасности, включая обмен данными и совместную оценку рисков.
Одной из рекомендаций стало создание «горячих линий» для оперативной связи между странами при возникновении инцидентов, связанных с ИИ. Это должно помочь избежать ошибок из-за взаимного недоверия. Также предлагается внедрить строгие механизмы проверки, независимое тестирование и постоянный мониторинг для наиболее мощных моделей ИИ, чтобы своевременно выявлять потенциальные угрозы.
Несмотря на различия между ИИ и ядерным оружием, авторы подчеркивают их схожую стратегическую значимость. Они считают, что создание защитных рамок на раннем этапе развития технологий эффективнее, чем реагирование на уже проявившиеся риски. Эксперты предлагают сосредоточиться на прагматичных мерах по управлению рисками, а не на попытках немедленного заключения всеобъемлющих регуляторных соглашений.
В документе подчеркивается, что глобальная система управления ИИ находится на начальной стадии, а в международном сотрудничестве существуют значительные пробелы. Учитывая высокие темпы развития технологий, окно возможностей для взаимодействия ограничено. Эксперты уверены, что США и Китай несут особую ответственность за достижение консенсуса в вопросах стандартов безопасности и антикризисных коммуникаций.
