Некоммерческая организация Palisade Research опубликовала серию интервью с текущими и бывшими сотрудниками OpenAI, Google DeepMind и Anthropic. Проект доступен на платформе frominside.ai и посвящен оценке рисков, связанных с разработкой сверхразумного искусственного интеллекта.
Джеффри Ирвинг, работавший ранее в OpenAI и Google DeepMind, оценил вероятность вымирания человечества из-за ИИ как сопоставимую с подбрасыванием монеты. Нил Нанда, научный сотрудник Google DeepMind, назвал риск исчезновения людей на уровне не менее 10 процентов недопустимо высоким.
Бывший исследователь OpenAI Дэниел Кокотайло охарактеризовал потенциальный сверхразумный ИИ как систему с божественной мощью. По его словам, на текущий момент отсутствуют способы контроля таких технологий, что делает ситуацию крайне опасной и требующей жесткого регулирования.
В материалах также обсуждаются мотивы самих разработчиков. Мэри Фуонг из Google призвала с осторожностью относиться к заявлениям сотрудников лабораторий, учитывая их финансовую заинтересованность. Нанда отметил, что продолжает работу, так как считает её способом снижения экзистенциальных рисков, подчеркнув, что его уход не остановит развитие индустрии.
