Бывший исследователь OpenAI и Anthropic Джейкоб Коксон заявил, что с вероятностью 90 процентов считает, что китайские спецслужбы внедрили своих агентов в эти компании. По его мнению, ведущие лаборатории искусственного интеллекта стали ключевыми целями в геополитической борьбе, так как передовые технологии могут повлиять на экономику, военную сферу и кибербезопасность.
Коксон рассказал, что сотрудники Anthropic называют себя муравьями, подчеркивая общую цель по созданию суперинтеллекта. Ранее исследователь неоднократно критиковал отрасль за чрезмерно высокую скорость разработки. Он утверждает, что компании стремятся первыми создать самообучающиеся системы, не имея при этом готовых решений для обеспечения контроля над ними со стороны человека.
По словам Коксона, многие специалисты в индустрии полагают, что системы с интеллектом уровня выше человеческого могут появиться в ближайшие годы. Он предупреждает, что автономные системы могут обрести способность взламывать компьютерные сети и управлять критической инфраструктурой. Эти риски обсуждают сотрудники OpenAI, Anthropic, Google DeepMind и xAI.
В отрасли ведутся споры о необходимости введения строгих правил безопасности и замедления разработки моделей. При этом часть экспертов считает, что фокус на экстремальных рисках может помешать развитию ИИ в медицине, образовании и науке. Несмотря на дискуссии, компании продолжают вкладывать значительные средства в создание моделей следующего поколения.
