Глава подразделения Microsoft AI Мустафа Сулейман заявил, что конкуренция с Китаем не должна откладывать внедрение мер безопасности в сфере искусственного интеллекта. В интервью CNN от 20 сентября он призвал США развивать механизмы контроля за мощными ИИ-системами, сохраняя при этом возможность сотрудничества с Китаем по общим интересам.
Сулейман выступил за системы, в которых человек может наблюдать за работой ИИ, прерывать её и проверять принятые решения. Он поддержал независимую оценку моделей и международные соглашения. Это публичная позиция руководителя, а не официальная политика компании или законодательное предложение.
Для независимой проверки внешним оценщикам потребуется доступ к системам для анализа поведения, ограничений и внутренних средств контроля. По словам Сулеймана, необходимо заранее определить круг проверяющих, объем передаваемой информации и порядок реагирования компаний на выявленные проблемы.
Заявление сделано на фоне дискуссий в США о том, не замедлят ли жесткие требования к безопасности развитие отрасли по сравнению с Китаем. Сулейман предлагает не связывать эти вопросы, отмечая, что технические механизмы остановки систем и аудит могут развиваться независимо от международных договоренностей.
