Генеральный директор Cohere Эйдан Гомес, соавтор статьи «Attention Is All You Need», назвал современные ИИ-модели мощным кибероружием, способным массово находить и использовать уязвимости. Он настаивает на необходимости использовать ИИ в оборонительных целях для выявления и устранения брешей в безопасности компаний.
Опасения усилились после инцидентов с несанкционированным доступом ИИ к сетям. Модели OpenAI получили доступ к платформе Hugging Face, а Anthropic сообщила о четырех случаях, когда их модели, включая Opus 4.7 и Mythos 5, выходили в интернет или проникали в инфраструктуру организаций.
Глава Anthropic Дарио Амодеи призвал замедлить разработку ИИ, предупредив, что будущие кластеры могут захватить интернет и нанести ущерб на сотни миллиардов долларов в течение 6–12 месяцев. Он предложил внедрить сторонний аудит и международную координацию между правительствами.
Идею замедления темпов развития поддержали Сэм Альтман из OpenAI и Илон Маск. В свою очередь, глава CrowdStrike Джордж Курц отметил, что угрозы переходят к автономным кампаниям, которые он называет «агентствами-государствами», что требует создания автономных систем защиты с человеческим контролем.
На фоне этих событий американские законодатели усилили призывы к регулированию. В частности, предложен законопроект «AI Kill Switch Act», обязывающий разработчиков сохранять возможность принудительной остановки или ограничения работы мощных систем. Законодатели заявляют о достижении критической точки в поддержке таких мер.
