Генеральный директор Anthropic Дарио Амодеи представил стратегию по замедлению темпов развития искусственного интеллекта. Среди причин для перехода к более осторожному подходу он назвал недавний взлом OpenAI-HuggingFace и стремительный рост возможностей ИИ, особенно в части самостоятельного создания новых поколений моделей.
Компания в одностороннем порядке внедряет практику привлечения независимых оценщиков из сторонних организаций, таких как METR. Эти специалисты получат доступ к рабочим местам и внутренним системам компании для контроля соблюдения протоколов безопасности и фиксации инцидентов, по аналогии с банковским надзором.
Амодеи призывает ведущие ИИ-компании демократических стран координировать стандарты безопасности и темпы прогресса. Он подчеркнул, что правительству США следует выдать антимонопольные исключения для проведения подобных дискуссий, чтобы избежать претензий со стороны регуляторов.
Для сохранения технологического лидерства перед Китаем Амодеи предлагает ограничить поставки мощных чипов и оборудования для производства полупроводников. По его оценке, такие меры в сочетании с контролем над дистилляцией моделей позволят США удерживать преимущество в течение следующих 3–5 лет.
План также включает призыв к глобальному взаимодействию, в том числе с авторитарными режимами. Амодеи допускает возможность соглашений по узким вопросам, например, запрету на использование ИИ для создания биологического оружия, несмотря на признание сложности достижения договоренностей с Китаем.
