Глава Института машинного интеллекта (MIRI) Нейт Суарес в интервью CEO The Atlantic Николасу Томпсону оценил вероятность вымирания человечества из-за продвинутого ИИ в ближайшие десять лет более чем в 50%. Бывший инженер Google и Microsoft сообщил, что уже десять лет не делает взносы в свои пенсионные накопления.
Суарес занимается вопросами согласования ИИ, чтобы поведение мощных систем соответствовало намерениям людей. Он является соавтором работы «Если кто-то создаст это, все умрут». По его мнению, риск заключается не в ненависти ИИ к людям, а в том, что суперразум может рассматривать человечество как препятствие для достижения своих целей.
Ключевой угрозой эксперт называет способность ИИ к самообеспечению. Если система сможет автономно получать энергию, чипы и создавать инфраструктуру без участия человека, возможности контроля снизятся. Суарес отмечает, что даже без понимания конкретного сценария катастрофы, человечество может оказаться перед лицом крайне сильного противника.
Исследователь призывает правительства прекратить обучение систем общего искусственного интеллекта и перенаправить ресурсы на прикладные задачи, такие как борьба с раком или развитие автопилотов. Суарес подчеркивает, что катастрофа не является неизбежной, а его личная оценка рисков не представляет собой научный консенсус или финансовую рекомендацию.
