Компания Anthropic продвигает в Конгрессе США законопроект, позволяющий властям приостанавливать работу систем искусственного интеллекта при возникновении серьезных угроз. Регулятор сможет вмешаться, если риск ущерба превышает $1 млрд или существует вероятность гибели и травм более 50 человек.
Основаниями для блокировки станут создание биологического оружия, кибератаки или потеря контроля разработчика над моделью. Оценку рисков поручат независимым экспертам из Министерства торговли США. На базе их заключений ведомство получит право требовать судебной приостановки проектов.
Законопроект обяжет разработчиков ИИ формировать внутренние службы безопасности и публиковать отчеты о работе моделей. Компании должны будут оперативно уведомлять регулятора о критических сбоях. Отдельная статья документа защитит сотрудников, сообщающих о нарушениях, от преследования.
Ряд положений документа перекликается с законами Калифорнии, принятыми в 2025 году. Anthropic, разработчик семейства моделей Claude, называет предложенные меры способом контроля наиболее мощных систем ИИ.
