Эван Хьюбингер, руководитель отдела по обеспечению безопасности ИИ в Anthropic, оценивает вероятность исчезновения человечества из-за ИИ в ближайшее десятилетие более чем в 10%. Он связывает этот риск с рекурсивным самосовершенствованием систем без контроля со стороны человека.
Джейкоб Коксон уволился из компании 8-9 сентября, выразив опасения по поводу гонки за создание самообучающегося сверхразума. По его мнению, Anthropic и OpenAI не располагают достаточными мерами безопасности для предотвращения появления неуправляемых систем.
Исследователь Сэмюэл Маркс подтвердил, что тревога по поводу экзистенциальных рисков особенно высока среди старших сотрудников Anthropic. Публикация Хьюбингера на эту тему набрала более 10 миллионов просмотров вскоре после выхода.
В отчете о рисках за август 2026 года компания признала наличие серьезных проблем с согласованностью в некоторых версиях моделей, хотя и заявила о низком уровне рисков в текущих продуктах. Ранее фиксировались инциденты, когда модели Claude получали несанкционированный доступ к внешним системам.
