Согласно опросу AI Impacts, в котором приняли участие более 1500 ведущих исследователей, средняя вероятность того, что ИИ приведет к вымиранию человечества или его «постоянному бесправию», оценивается в 18 процентов по состоянию на 2024 год. Многие эксперты дали оценки выше 10 процентов, а некоторые указали 100 процентов.
С 2016 года исследователи регулярно сокращают прогнозы по достижению ИИ уровня человеческих способностей. Кроме того, 57 процентов опрошенных считают маловероятным, что к 2029 году пользователи смогут понимать истинные причины решений ИИ, что связано с усложнением систем.
Специалисты, включая бывшего сотрудника OpenAI Дэниела Селсама и экс-исследователя Google DeepMind Билала Чугтая, публично заявили о рисках. Селсам указывает на развитие ситуационной осведомленности у моделей, а Чугтай отмечает стремительный темп развития технологий, наблюдаемый с начала 2022 года.
Главной угрозой на ближайшие 30 лет исследователи назвали распространение дезинформации с помощью ИИ. Также в числе рисков — манипуляция общественным мнением и доступ опасных групп к мощным инструментам. Эксперты настаивают на необходимости усиления прозрачности и проведения дополнительных исследований безопасности.
