Джейкоб Коксон, бывший исследователь компании Anthropic, привлек внимание к теме экзистенциальных угроз со стороны самообучающегося ИИ. Его заявления о рисках для человечества получили широкое освещение в эфирах CNN и Fox News, а также стали предметом обсуждения среди американских политиков и в подкасте Джо Рогана.
Позицию Коксона поддержали другие специалисты из Anthropic и OpenAI. Пол Кристиано, занимающийся вопросами безопасности, вошел в совет фонда OpenAI и его комитет по безопасности и защите. В рамках этой структуры он занимается контролем практик компании, однако не обладает правом голоса при принятии решений.
Дискуссия о безопасности ИИ остается предметом споров. В качестве аргументов эксперты приводят примеры создания автономных хакерских агентов в OpenAI и Anthropic. Тем не менее сценарий полного исчезновения человечества остается дискуссионным, а возможность появления сверхразума на базе текущих технологий до сих пор не доказана.
