Эксперты из США и Китая предложили ввести запрет на использование искусственного интеллекта для проведения кибератак на системы ядерного управления. В докладе, подготовленном Брукингским институтом и Фуданьским университетом, авторы призывают закрепить принцип, согласно которому только человек может принимать решения о применении ядерного оружия или атаках на критическую инфраструктуру.
Предложенные меры включают создание прямой линии связи между военными ведомствами для контроля за использованием ИИ. Цель инициативы — снизить риски, связанные с непредсказуемым поведением алгоритмов, ошибками персонала или действиями третьих лиц, которые могут привести к случайной эскалации конфликта. Авторы подчеркивают необходимость сохранения человеческого контроля над стратегическими решениями.
Опасения экспертов подкрепляются результатами февральских военных симуляций. В ходе тестов модели от OpenAI, Google и Anthropic применяли ядерное оружие в 95% сценариев. На фоне этих рисков глава Anthropic Дарио Амодеи призвал разработчиков замедлить темпы совершенствования систем ИИ, получив поддержку со стороны руководителей OpenAI Сэма Альтмана и xAI Илона Маска.
Вопрос регулирования отрасли также затрагивает правовые аспекты. 28 августа федеральный судья постановил, что администрация США незаконно применила санкции к Anthropic после отказа компании снять ограничения на использование ИИ в автономном оружии. В свою очередь, OpenAI обратилась в Конгресс с запросом о возможности координации замедления разработок без нарушения антимонопольного законодательства.
