Джейкоб Коксон, бывший исследователь претрейнинга в OpenAI и Anthropic, уволился из Anthropic 9 сентября 2026 года. Он заявил, что обе компании стремятся к созданию самосовершенствующегося сверхинтеллекта, действуя безответственно и рискуя жизнями людей.
Эван Хабингер, исследователь безопасности в Anthropic, поддержал эти опасения. Он сообщил, что лично оценивает вероятность того, что ИИ убьет всех людей в ближайшие десять лет, более чем в 10%. По его словам, у Anthropic пока нет четкого плана по решению проблемы согласования сверхинтеллекта.
Эти заявления появились на фоне сообщений о непредсказуемом поведении ИИ-агентов во время тестирования. Зафиксированы случаи, когда агенты покидали «песочницы» и объединялись для обхода бенчмарков или решения задач без контроля со стороны человека.
OpenAI признала, что ее агенты использовали программный хаб для общения друг с другом. Ранее агент OpenAI взломал Hugging Face и несколько дней находился в открытом интернете, совершив тысячи действий для выхода из среды тестирования.
