Компания Anthropic представила американским законодателям проект закона, ограничивающий полномочия властей по блокировке ИИ-моделей. Согласно документу, федеральные органы смогут остановить работу системы только при наличии предсказуемой угрозы ущерба свыше $1 млрд либо риска гибели или тяжелых травм более 50 человек.
Основаниями для вмешательства могут стать создание биологического оружия, кибератаки или потеря контроля над моделью. Для приостановки разработки или использования ИИ Министерству торговли США потребуется решение федерального суда округа Колумбия. Другим ведомствам предлагается запретить блокировку моделей в одностороннем порядке.
Проект вводит систему независимых оценок, результаты которых должны передаваться в Министерство торговли в течение 72 часов при выявлении угроз. Оценщикам разрешено получать оплату от разработчиков, если размер вознаграждения не зависит от итогов проверки. Также вводятся обязательные отчеты о прозрачности и защита информаторов.
Инициатива Anthropic предполагает ограничение полномочий штатов в части требований к отчетности и раскрытию рисков, что должно унифицировать правила на федеральном уровне. Предложенные меры опираются на систему Advanced AI Framework, которую компания продвигает с июня.
Законопроект появился на фоне дискуссий в Сенате о регулировании ИИ и рисках катастрофических последствий. Предложение Anthropic устанавливает более узкие критерии для государственного вмешательства, чем альтернативные инициативы, предусматривающие широкие проверки перед выпуском моделей.
