Компания DeepSeek открыла исходный код технологии DeepInfer, предназначенной для оптимизации работы нейросетей. Инструмент обеспечивает высокую пропускную способность и низкие задержки для модели DeepSeek-V4.1-Flash. В состав решения вошли высокопроизводительные ядра, оптимизированный движок вывода, а также функции распределенного инференса и спекулятивного декодирования.
Разработчики также опубликовали deepseek-recipe — компонент для кодирования и декодирования токенов, соответствующий логике официального API DeepSeek. Цель инициативы — помочь облачным провайдерам и компаниям снизить затраты на вычислительные мощности и электроэнергию. DeepSeek планирует развивать эти инструменты совместно с сообществом.
Анонс состоялся на фоне решения Министерства внутренней безопасности США, которое запретило гражданским федеральным ведомствам использовать продукты DeepSeek. Ведомство обязало госорганы удалить ПО компании из своих систем, сославшись на то, что базирующаяся в Китае организация создает потенциальные угрозы безопасности.
