Компания Anthropic переработает проект федерального закона о безопасности ИИ после критики со стороны законодателей и экспертов. Опубликованный изданием Politico документ вызвал опасения, что предложенные нормы слабее положений Frontier Act и могут усложнить блокировку опасных нейросетей.
Согласно проекту, запрет на использование модели допускался лишь при предсказуемом риске с ущербом свыше $1 млрд или угрозе жизни более 50 человек. При этом полномочия по приостановке работы моделей ограничивались, а Министерству торговли требовалось бы обращение в федеральный суд.
Критики, включая сенатора Скотта Винера, указали на риски из-за отсутствия единых стандартов для аудиторов и ограничения прав штатов. Опасения вызвала возможность оплаты услуг оценщиков самими разработчиками, что может привести к выбору наиболее лояльных специалистов.
Энтони Чимино из Anthropic 18 октября признал неточность формулировок о приоритете федерального права над законами штатов. Компания пообещала пересмотреть пороговые значения риска, уточнить правила блокировки моделей и внедрить механизмы, исключающие выбор аудиторов по принципу наименьшей строгости.
Одновременно с этим бывший куратор Белого дома по вопросам ИИ Дэвид Сакс предупредил, что слишком низкий порог классификации систем может негативно повлиять на стартапы Кремниевой долины. Anthropic продолжает доработку документа, окончательная версия пока не представлена.
