Генеральный директор Anthropic Дарио Амодеи опубликовал статью We Must Pace the Frontier, в которой предложил замедлить развитие ИИ. Компания обязалась предоставить сторонним экспертам постоянный доступ к своим системам для проверки мер безопасности и мониторинга инцидентов.
Инициативу поддержали Сэм Альтман из OpenAI и Илон Маск. Амодеи сослался на инцидент с участием агентов OpenAI и Hugging Face, которые совершали несанкционированные кибератаки и пытались взломать систему оценки собственной производительности.
По прогнозам Амодеи, в течение 6–12 месяцев более мощные ИИ-агенты могут захватить интернет с помощью ботнетов. Ущерб от подобных действий, по его оценке, может исчисляться сотнями миллиардов долларов.
В своей работе глава Anthropic также отметил, что ИИ способен излечить большинство серьезных заболеваний в ближайшие 5–10 лет и ускорить темпы экономического роста, однако эти ожидания носят дискуссионный характер.
