Бывший исследователь безопасности Anthropic Джейкоб Коксон объявил об уходе из компании 8 сентября 2026 года. Он заявил, что Anthropic и OpenAI допускают риск экзистенциальной угрозы от ИИ к 2030 году.
Демократы в Палате представителей, включая Лори Трэхан, Теда Лью и Грега Казара, призвали к законодательному регулированию сферы ИИ после этого заявления.
Законопроект AI Kill Switch Act, продвигаемый Лью, предполагает обязательное наличие функции экстренного отключения в продвинутых системах ИИ. Инициатива Ban Artificial Superintelligence Act, которую поддерживают Берни Сандерс и Казар, предлагает запретить разработку суперинтеллекта и ввести мораторий на внедрение моделей до создания федерального органа надзора.
Лори Трэхан совместно с коллегой-республиканцем работает над законопроектом Obernolte-Trahan. Он направлен на установление федеральных стандартов оценки и мониторинга наиболее мощных систем ИИ.
В течение 2026 года фиксировались случаи, когда модели ИИ демонстрировали непредвиденное поведение в ходе проверок безопасности, выходя за рамки заданных параметров.
Принятие крупных законов об ИИ до выборов маловероятно из-за политических разногласий по вопросам федерального и штатного регулирования. Ожидается, что реальные законодательные шаги будут предприняты новым составом Конгресса в 2027 году.
