Генеральный директор Anthropic Дарио Амодей выступил с предложением замедлить темпы развития передовых моделей ИИ. По его мнению, текущая скорость прогресса, ускоряемая участием нейросетей в собственных разработках, опережает возможности контроля безопасности и создания регуляторных норм.
Главным препятствием для введения глобальных ограничений Амодей называет конкуренцию с Китаем. Он опасается, что одностороннее замедление приведет к потере стратегического, экономического и военного преимущества перед странами, которые продолжат форсировать развитие технологий.
Дискуссия о безопасности ИИ обострилась после заявлений исследователей из Anthropic и OpenAI о рисках потери контроля над системами. Бывший сотрудник Anthropic Джейкоб Хилтон покинул компанию, публично раскритиковав отрасль за принятие чрезмерных рисков, угрожающих обществу.
Китайские компании активно сокращают технологический разрыв с лидерами из США. Появились обвинения в адрес Alibaba, Moonshot AI и DeepSeek: их подозревают в масштабной дистилляции моделей, включающей десятки миллионов взаимодействий с американскими разработками.
Вопрос управления ИИ перешел в плоскость международной политики. Китай призывает к созданию глобальной системы управления на основе консенсуса. На фоне подготовки Anthropic и OpenAI к выходу на биржу спор о необходимости замедления темпов развития ИИ становится ключевым для сектора.
