Ведущий научный сотрудник Anthropic Эван Хабингер заявил в соцсети X, что искусственный интеллект может уничтожить человечество. По его оценкам, вероятность такого исхода в следующем десятилетии превысит 10%.
Хабингер отметил, что у компании пока нет плана по решению проблемы «выравнивания для сверхразума», и компания «явно не на верном пути» к этому.
Предупреждения последовали за уходом из Anthropic исследователя Джейкоба Коксона. Коксон, работавший в OpenAI и Anthropic, назвал действия обеих компаний безответственными, утверждая, что они стремятся к созданию самосовершенствующегося суперинтеллекта, рискуя жизнями людей.
Главный научный сотрудник OpenAI Якуб Пачоцки также предупредил об опасностях рекурсивного самосовершенствования, которое может привести к потере контроля над ИИ-агентами. В июле он подписал заявление «Шагая по границе», призывая правительство и общество замедлить развитие технологий.
В петиции «Шагая по границе» содержится призыв к правительству США поддержать международные усилия по разработке технических инструментов и механизмов управления для безопасного автоматизированного развития ИИ.
