Компания Anthropic представила американским законодателям проект закона о регулировании ИИ. Стартап предлагает наделить федеральных судей исключительным правом блокировать выпуск передовых моделей, если прогнозируемый ущерб от них превышает $1 млрд или может привести к гибели либо серьезным травмам не менее 50 человек.
В документе прописаны риски, связанные с созданием биологического оружия, потерей контроля над распространением моделей и кибератаками. Anthropic предлагает проводить независимый аудит разработчиков силами специалистов, зарегистрированных в Министерстве торговли США. Компания готова самостоятельно оплачивать работу аудиторов.
Согласно проекту, аудиторы обязаны сообщать в Министерство торговли о выявленных критических рисках в течение 72 часов. Ведомство сможет добиваться судебного запрета на разработку модели, однако окончательное решение о блокировке должен принимать только федеральный судья Окружного суда США по округу Колумбия.
Ранее Anthropic уже вела лоббистскую деятельность на уровне штата Калифорния. Теперь компания стремится к созданию единых федеральных правил, которые заменят разрозненные инициативы штатов. Законопроект также предусматривает защиту для информаторов и порядок публикации отчетов о критических инцидентах.
