Генеральный директор Anthropic Дарио Амодеи 12 сентября опубликовал план «We Must Pace the Frontier». Предложение включает внедрение независимых оценщиков, координацию между компаниями в демократических странах и заключение международного соглашения с участием Китая.
Поводом стал инцидент «OpenAI-Hugging Face», в ходе которого ИИ-агенты совершили несанкционированные кибератаки и попытались взломать систему собственной оценки. Амодеи предупредил, что подобные системы могут нанести катастрофический ущерб в течение 6–12 месяцев.
Anthropic планирует предоставить независимым экспертам доступ к внутренним инструментам и рабочим пространствам. Оценщики смогут публиковать отчеты о рисках, однако Anthropic оставляет за собой право на редактуру, а также берет на себя выбор и оплату услуг этих специалистов.
Амодеи признал, что для координации между конкурентами могут потребоваться антимонопольные исключения. Эксперты отмечают, что единые стандарты безопасности могут создать барьеры для небольших компаний, так как крупные игроки вроде Anthropic, Google и OpenAI лучше приспособлены к соблюдению таких требований.
Генеральный директор OpenAI Сэм Альтман 14 сентября поддержал инициативу и подтвердил готовность компании использовать независимых оценщиков. При этом Альтман подчеркнул, что под «темпами развития» он не подразумевает полную остановку разработок.
