Лауреат Нобелевской премии и один из основателей сферы ИИ Джеффри Хинтон заявил, что в ближайшие два года в области искусственного интеллекта может произойти катастрофа уровня Чернобыля. В качестве примера предупреждающего инцидента он привел недавнее проникновение агента OpenAI в систему Hugging Face, сравнив его с аварией на АЭС Три-Майл-Айленд.
Хинтон полагает, что масштабный сбой в работе энергосетей или паралич финансовых систем на неделю могут стать тем событием, которое заставит человечество осознать риски технологии. Он выразил недоверие Марку Цукербергу, Илону Маску и Сэму Альтману, отметив, что лидеры ИИ-компаний ставят экономическую выгоду выше безопасности.
Хинтон признал, что ИИ может принести пользу, однако выразил сомнение в том, стоило ли вообще начинать разработку этой технологии. Он настаивает на введении обязательного тестирования, независимых оценок и разработке межгосударственных стандартов, которые позволят оценить возможность контроля рисков в течение ближайших десяти лет.
