Среди потенциальных угроз, связанных с искусственным интеллектом, эксперты называют организацию атак с применением биологического оружия, развязывание глобальных войн дронов и приведение в действие ядерных зарядов. Также существует риск постепенного разрушения общества через концентрацию мировых экономических ресурсов, что может ограничить доступ к еде, жилью и лекарствам.
В сентябре внимание мировых СМИ привлек уход исследователя из компании Anthropic. Свое решение он объяснил опасениями, что лаборатории создают сверхразумные системы, которые люди не смогут контролировать. Этот инцидент стал поводом для широкого обсуждения безопасности технологий в индустрии.
Джеймс К. Хэммитт, директор Гарвардского центра анализа рисков, отмечает, что человечество склонно неверно оценивать масштаб угроз. Люди терпимо относятся к привычным опасностям, но боятся новых явлений. По его словам, ИИ вызывает тревогу, так как технология плохо изучена и не воспринимается как нечто, находящееся под контролем человека.
