Генеральный директор Anthropic Дарио Амодей 12 сентября опубликовал эссе объемом 3800 слов с планом регулирования ИИ. Предложение включает обязательное тестирование безопасности для всех моделей, включая открытые, и предоставление независимым оценщикам, таким как METR, доступа к передовым разработкам.
Амодей призывает к глобальной координации в сфере регулирования ИИ и ужесточению экспортного контроля на поставки чипов в Китай. По его мнению, открытые модели несут угрозу национальной безопасности, так как позволяют копировать возможности мощных систем через дистилляцию — процесс, при котором менее совершенная модель обучается на ответах более продвинутой.
Anthropic заявила, что связанные с Alibaba операторы провели кампанию по дистилляции модели Claude, совершив почти 29 миллионов запросов. Компания допускает, что подобное использование API может рассматриваться как кража интеллектуальной собственности. Новые правила могут усложнить работу Meta, Alibaba и Mistral.
Инициативу поддержали Сэм Альтман, Илон Маск и Демис Хассабис. Эксперты отмечают, что предлагаемые меры могут быть выгодны компаниям с закрытыми системами, таким как OpenAI и xAI, так как они создают дополнительные барьеры для конкурентов, выпускающих модели с открытыми весами.
