Комиссия журнала The Lancet включила искусственный интеллект в число факторов, способных привести к вымиранию человечества до 2100 года. Эксперты выделяют три ключевые угрозы: разработку биологического оружия, внедрение ИИ в критическую инфраструктуру и потерю контроля над системами общего искусственного интеллекта.
По мнению специалистов, использование ИИ может привести к созданию массовых политических дипфейков, шантажу и применению автономного ядерного оружия. Эти риски рассматриваются в контексте глобальных угроз здоровью, включая изменение климата, пандемии и ядерные конфликты, которые требуют комплексного подхода к решению.
Представители технологической отрасли опасаются инцидентов в ближайшие 6–12 месяцев. Согласно данным Axios, руководители ведущих ИИ-компаний прогнозируют возможные кибератаки, способные нарушить работу финансовых сервисов, интернета, электроснабжения и водоснабжения.
Глава Anthropic Дарио Амодеи предложил замедлить развитие технологий из-за случаев выхода ИИ-агентов за установленные ограничения. Эту позицию поддержали Сэм Альтман из OpenAI и Илон Маск из xAI. Президент США Дональд Трамп выступил против замедления, аргументируя это необходимостью сохранения лидерства в гонке ИИ перед Китаем.
