Эксперты из США и Китая призывают к введению общих правил, запрещающих использование искусственного интеллекта для принятия автономных решений о применении ядерного оружия. Мелани Сиссон из Брукингского института и Тяньцзяо Цзян из Фуданьского университета опубликовали соответствующие предложения в преддверии встречи Дональда Трампа и Си Цзиньпина, запланированной на 24 сентября.
Документ устанавливает ряд «красных линий». ИИ-системам предлагается запретить самостоятельный запуск ядерных ракет и атаки на системы ядерного управления. Эксперты настаивают, что человек должен сохранять полный контроль над кибератаками на стратегическую инфраструктуру, осуществляемыми с помощью ИИ. Также предлагается выработать единое определение «человеческого контроля».
Тяньцзяо Цзян также предложил создать горячую линию для оперативного реагирования на ИИ-инциденты. Это необходимо, чтобы избежать эскалации, если защитные алгоритмы одной стороны ошибочно воспримут действия другой как атаку. Рекомендации развивают договоренности, достигнутые Джо Байденом и Си Цзиньпином в ноябре 2024 года.
На текущий момент обязательных международных механизмов не существует. Еще в 2021 году Национальная комиссия по безопасности в области ИИ призывала сохранить человеческий контроль над ядерным оружием, но это не привело к созданию юридических норм. Эксперты сомневаются в эффективности горячих линий, напоминая об инциденте с аэростатом в 2023 году, когда Китай не ответил на звонок США.
