Дарио Амодеи, генеральный директор Anthropic, 12 сентября опубликовал эссе We Must Pace the Frontier. В нем он утверждает, что темпы разработки передовых моделей ИИ опережают развитие систем безопасности. По его оценке, бесконтрольное развитие технологий может привести к ущербу на сотни миллиардов долларов в течение 6–12 месяцев.
Амодеи предлагает трехуровневую стратегию контроля рисков. Она включает внедрение независимых сторонних аудиторов с доступом к внутренним протоколам компаний, принятие единых стандартов безопасности в демократических странах и международное сотрудничество в области управления ИИ.
Компания Anthropic поставила внутреннюю цель: к 2027 году разработать инструменты для выявления большинства проблем в работе моделей. Автор подчеркивает важность исследований в области интерпретируемости, чтобы сделать процесс принятия решений ИИ прозрачным, так как текущие системы работают как непрозрачные «черные ящики».
Инициативу поддержали Сэм Альтман из OpenAI, Илон Маск и Демис Хассабис из Google DeepMind. При этом они указали на риски, связанные с возможной потерей технологического лидерства в условиях жесткой международной конкуренции, если меры безопасности будут приняты только в отдельных юрисдикциях.
