Бывший исследователь OpenAI Уилл Депью обнаружил в шести китайских ИИ-моделях числовые отпечатки, соответствующие ускорителям Nvidia Blackwell. В список вошли DeepSeek-V4-Flash, DeepSeek-V4-Pro, Kimi K3, Kimi K3.1-Pro от Moonshot AI, а также MiniMax-M3 и Ling-3.1-flash от Ant Group.
Метод анализа основан на особенностях инициализации весов нейросетей. Распределение вычислений между потоками зависит от количества вычислительных блоков SM, что оставляет уникальный след в тензорах. Эти значения сохраняются в весах даже после завершения обучения, позволяя идентифицировать архитектуру GPU.
Для DeepSeek-V4-Flash исследователи воспроизвели 445 из 469 строк весов на Nvidia B300. Для модели Kimi K3 все 13 проверенных строк совпали при тестировании на GB200. Более ранние версии моделей этих разработчиков соответствовали архитектуре Nvidia Hopper.
По оценкам, для пяти крупнейших запусков могло потребоваться около 12 000 ускорителей Blackwell. На обучение Kimi K3 могло уйти 4500 GPU, а на DeepSeek-V4-Pro — 3000. Совокупная стоимость оборудования для пяти проектов оценивается в сумму, превышающую $500 миллионов.
Анализ не доказывает использование конкретных GPU на протяжении всего обучения и не раскрывает владельцев оборудования. Хотя ускорители AMD MI300X могут имитировать конфигурацию Blackwell, исследователи исключили эту версию для DeepSeek-V4-Flash и считают её маловероятной для остальных моделей.
