Джейкоб Коксон, исследователь компании Anthropic, уволился 9 сентября 2026 года. Он заявил, что существующие механизмы экстренного отключения ИИ могут оказаться бесполезными, так как будущие автономные системы смогут работать в распределенной среде и обходить централизованные команды остановки.
Эван Хьюбингер, руководитель направления по выравниванию ИИ в Anthropic, оценил вероятность вымирания человечества из-за ИИ в ближайшее десятилетие более чем в 10%. 12 сентября 2026 года гендиректор Anthropic Дарио Амодеи призвал замедлить разработку ИИ и внедрить независимый аудит безопасности.
В июне 2026 года Министерство торговли США обязало Anthropic ограничить иностранный доступ к моделям Mythos 5 и Fable 5. В июле 2026 года Конгресс представил законопроект AI Kill Switch Act, который предполагает введение контроля над разработкой передовых систем ИИ.
Законопроект позволит властям ограничивать работу или полностью отключать системы, которые превышают установленные пороги риска. Согласно опросу AI Policy Institute от июня 2026 года, 86% избирателей США поддерживают обязательное наличие функции отключения для мощных ИИ-систем.
