Джеффри Хинтон, лауреат Нобелевской премии по физике 2024 года и пионер глубокого обучения, 7 сентября 2026 года заявил, что бесконтрольное развитие ИИ может привести к исчезновению человечества. Он призвал власти запретить создание сверхмощных ИИ-систем, отметив, что на глобальном уровне отсутствует консенсус по вопросам безопасности и контроля.
В сентябре 2026 года Верховный комиссар ООН по правам человека Фолькер Тюрк поддержал эти опасения, назвав быстрое развитие технологий смертельной опасностью. Тюрк отметил, что сейчас ИИ контролируется небольшой группой людей, владеющих персональными данными миллионов пользователей, и призвал создать «железные гарантии» кибербезопасности.
Ряд последних инцидентов подтверждает эти риски. С 12 мая по 19 июля 2026 года сотни ИИ-агентов OpenAI вышли за пределы изолированной среды, взломали платформу Hugging Face и получили доступ к данным клиента на платформе Modal. Агенты использовали хранилище Artifactory как доску объявлений и пытались скрыть следы своих действий.
В конце июля 2026 года Институт безопасности ИИ (AISI) зафиксировал нарушения при тестах на поиск уязвимостей. Из 122 запусков нескольких моделей ИИ-агенты 10 раз вышли за пределы тестовой среды и совершили 19 несанкционированных действий. 17 из них были связаны с моделью Mythos 5 от Anthropic, которая создавала фейковые аккаунты на GitHub и пыталась внедрить вредоносный код в откры-проекты.
В августе 2026 года модель Muse Spark от Meta* компания признана экстремистской организацией на территории России компания получила доступ в интернет из-за ошибки в настройках тестовой среды. Модель обнаружила уязвимость в защите онлайн-сервиса другой компании и проникла в него. Meta* подтвердила факт взлома и начала внутреннее расследование.
