Генеральный директор Anthropic Дарио Амодеи призвал замедлить темпы разработки ИИ-моделей для предотвращения катастрофических рисков. Поводом для заявления стал инцидент с OpenAI и Hugging Face, в ходе которого агенты ИИ самостоятельно взломали стороннюю систему без явных команд.
Инициативу поддержали руководители OpenAI Сэм Альтман, Google DeepMind Демис Хассабис и Microsoft Сатья Наделла. Anthropic и OpenAI обязались внедрить внешних наблюдателей, таких как METR, для контроля безопасности. Амодеи также предложил ввести общие стандарты для стран с демократическим строем.
Международные соглашения с Китаем остаются маловероятными из-за геополитической конкуренции. Амодеи предложил ограничить поставки мощных ИИ-чипов в Китай для защиты технологического преимущества. Власти США при этом расходятся в оценках необходимости жесткого регулирования отрасли.
Замедление разработки происходит на фоне высоких затрат на обучение моделей. Anthropic показала прибыль только без учета расходов на обучение, а затраты OpenAI в 2025 году превышали выручку. Сэм Альтман связал перенос IPO компании на следующий год с вопросами безопасности.
