Джеффри Хинтон, известный как «крестный отец» искусственного интеллекта, в интервью BBC Newsnight заявил, что вероятность уничтожения человечества технологиями ИИ не равна нулю. По его словам, оценка в 10 процентов выглядит правдоподобной, хотя точный расчет таких рисков невозможен из-за отсутствия прецедентов появления интеллекта, превосходящего человеческий.
Хинтон пересмотрел свои прогнозы относительно сроков возможной катастрофы. Если ранее он предполагал, что угроза возникнет через 30–50 лет, то теперь он сократил этот период до 10 лет или даже меньше. С этой позицией солидарен Якоб Коксон, бывший исследователь безопасности ИИ в компаниях Anthropic и OpenAI.
Коксон, объявивший об уходе из Anthropic, утверждает, что ведущие разработчики ИИ ставят под угрозу жизни людей. По его словам, многие руководители и эксперты в частных беседах выражают серьезные опасения, что ИИ может привести к гибели человечества до конца текущего десятилетия, несмотря на сдержанные публичные заявления.
Среди потенциальных угроз Хинтон выделил кибератаки и создание смертоносных вирусов. Он отметил, что компании OpenAI и Anthropic вкладывают миллиарды долларов в масштабирование своих моделей, возможности которых значительно выросли за последние месяцы.
Хинтон призывает к усилению глобального регулирования отрасли. Он считает, что общая заинтересованность стран в выживании человечества станет стимулом для международного сотрудничества. Главным вопросом остается способность государств своевременно принять необходимые меры безопасности.
