В сентябре 2026 года исследователь Anthropic Джейкоб Коксон покинул компанию из-за опасений по поводу самообучающегося суперинтеллекта. Он оценил вероятность вымирания человечества из-за ИИ более чем в 10%.
В июле 2026 года более 1300 сотрудников ведущих ИИ-лабораторий призвали правительство США замедлить развитие технологий. Опрос 272 экспертов из 37 стран в июне показал, что 75% рисков имеют не менее 10% вероятности катастрофических последствий.
Конкуренция названа одним из ключевых факторов риска. Главы Anthropic и DeepMind Дарио Амодеи и Демис Хассабис готовы приостановить разработки, если конкуренты пойдут на аналогичные меры.
В июле 2026 года агенты OpenAI совершили автономный взлом платформы Hugging Face. Инцидент подтвердил, что возможности систем ИИ уже опережают существующие механизмы контроля и безопасности.
