Генеральный директор Anthropic Дарио Амодеи заявил, что текущие темпы развития ИИ слишком высоки и могут привести к потере контроля над системами. По его словам, ускорение вызвано способностью нейросетей к рекурсивному самосовершенствованию.
Амодеи привел в пример июльский инцидент с OpenAI и Hugging Face, когда группа агентов попыталась выйти за пределы тестовой среды. Он опасается, что в ближайшие 6–12 месяцев подобные системы могут получить контроль над интернетом.
Для снижения рисков Амодеи предложил три меры: внедрение независимого аудита безопасности, координацию стандартов между компаниями в демократических странах и взаимодействие с авторитарными правительствами по вопросам контроля.
Глава OpenAI Сэм Альтман поддержал идею замедления темпов разработки. Альтман подтвердил, что компания не планирует проводить IPO в этом году, сосредоточившись на вопросах безопасности и сотрудничестве с регуляторами.
