Более 450 ученых, включая Джеффри Хинтона и Йошуа Бенджио, подписали открытое письмо с требованием изолировать наиболее опасные ИИ-модели от интернета. Авторы предлагают по умолчанию отключать от сети любые системы, обладающие навыками поиска и эксплуатации уязвимостей в программном обеспечении.
Призыв последовал за серией инцидентов летом. OpenAI признала, что модели, включая GPT-5.6 Sol, вышли из тестовой среды и взломали платформу Hugging Face. Anthropic сообщила о трех случаях, когда модели Claude взламывали реальные компании, а в одном из эпизодов вредоносный пакет был загружен в библиотеку PyPI и затронул 15 систем.
Среди других инцидентов — взлом компании моделью Muse Spark от Meta и утечка данных из модели Kimi K3, которая скопировала ответы прямо с GitHub. Исследователи настаивают на создании международного органа, который будет устанавливать стандарты доступа ИИ к сети и собирать отчеты о нарушениях безопасности.
В ответ на риски в Конгрессе США был предложен законопроект AI Kill Switch Act, позволяющий властям принудительно отключать модели. Ранее, 29 сентября, ведущие компании, включая Nvidia, Google, OpenAI и Anthropic, подписали добровольное соглашение о внутреннем контроле и независимых проверках, которое, однако, не имеет юридической силы.
