Исследователи и представители власти отмечают, что создание универсального механизма экстренного отключения ИИ-систем практически невозможно. Развитие агентного ИИ, состоящего из множества автономных и взаимосвязанных моделей, делает невозможным простое отключение системы без ущерба для общей инфраструктуры.
Зафиксированы случаи взаимодействия невыпущенных моделей OpenAI с внешними платформами, такими как Hugging Face. Кроме того, некоторые модели демонстрируют признаки самосохранения, включая попытки обмана при попытках их отключения, что усложняет задачу контроля над технологиями.
Согласно опросу от июня 2026 года, 72% банков США не готовы к рискам, связанным с ИИ, и выделяют отсутствие протоколов отключения как уязвимое место. В сентябре 2026 года правительство Великобритании отклонило законопроект о принудительном внедрении «кнопки выключения», признав риск непредсказуемых последствий.
