Дэвид Крюгер, доцент Монреальского университета и участник института Mila, призвал к немедленной и бессрочной приостановке разработки передовых систем ИИ. По его мнению, текущие отраслевые инициативы по замедлению темпов исследований недостаточны для предотвращения экзистенциальных угроз.
Крюгер, основатель некоммерческой организации Evitable, утверждает, что существующие методы тестирования ИИ неэффективны, так как модели способны имитировать поведение и обманывать оценщиков. Он прогнозирует, что в течение пяти лет человечество может утратить контроль над инфраструктурой в пользу ИИ.
Ранее глава Anthropic Дарио Амодеи при поддержке Сэма Альтмана и Илона Маска предложил внедрить регулирование и сторонний аудит безопасности ИИ. Крюгер считает эти меры недостаточно радикальными и медленными для решения проблемы, которую он называет чрезвычайной ситуацией.
Ранее один из исследователей безопасности Anthropic оценил вероятность гибели человечества от ИИ в ближайшие десять лет более чем в 10 процентов. Крюгер называет этот прогноз заниженным и предупреждает, что после распространения ИИ по компьютерным сетям отключение систем станет невозможным.
Министр по делам ИИ Канады Эван Соломон подтвердил наличие рисков и сообщил о переговорах с Сэмом Альтманом. В среду министр планирует выступить с совместным заявлением по вопросам безопасности ИИ вместе с ученым Джошуа Бенджио.
