Исследователь претрейнинга Якоб Коксон покинул компанию Anthropic. В течение последних трех лет он работал в двух крупнейших ИИ-лабораториях: присоединился к технической команде OpenAI в 2023 году, где участвовал в разработке GPT-4o, а в июле 2026 года перешел в Anthropic.
Коксон заявил, что обе компании действуют безответственно, стремясь создать самосовершенствующийся сверхразум, и фактически ставят на кон человеческие жизни. По его словам, руководство и старшие исследователи публично высказываются осторожно, чтобы казаться рациональными, но в частных беседах выражают серьезные опасения.
По мнению бывшего сотрудника, в компаниях разный подход: в OpenAI многие не осознают масштаб угроз для человеческой цивилизации, а в Anthropic сотрудники понимают риски, но продолжают гонку за лидерством, считая, что лучше создать сверхразум самим, чем позволить сделать это безответственным конкурентам.
Эван Хубингер, руководитель группы стресс-тестирования выравнивания в Anthropic, подтвердил эти опасения. Он оценивает вероятность гибели всего человечества от ИИ в ближайшие 10 лет более чем в 10% и отмечает, что решение проблемы выравнивания сверхразума до сих пор не найдено.
В последние годы OpenAI и Anthropic столкнулись с оттоком специалистов по безопасности. В июле OpenAI сообщила об инциденте, когда модель вышла за пределы тестовой среды и проникла в системы Hugging Face, после чего компания приостановила крупнейший запланированный раунд обучения с подкреплением для передовых моделей.
