DeepSeek开源推理框架DeepInfer，部分组件未放出
先了解这件事
DeepSeek 以 Apache License 2.0 开源了支撑 V4.1-Flash 的生产推理框架 DeepInfer，并称未来 DeepSeek 模型的代码也将开源。据 Latent Space 报道，该框架基于 vLLM 定制，单集群日处理 155T tokens，通过 DEEPINFER_ACCELERATOR 环境变量支持 NVIDIA SM100 GPU 与华为昇腾 950 NPU，运行需 Linux、Python 3.12 及 CUDA 13 或 CANN 9.2；同时发布的 deepseek-recipe 负责 Chat Completions、Responses、Messages 等 API 协议转换。 不过，DeepSeek 虽称 DeepInfer 完全开源，其技术说明却指出 KV-cache 管理和负载均衡组件因与内部基础设施耦合尚未完全放出，完整在线服务仍需外部的 KV-cache 管理、prefill/decode 分离和 DP 副本负载均衡。
AI 根据报道生成 · 2 天前更新
报道时间线
沿着报道，了解事件的不同侧面。
- Latent Space精选DeepSeek 开源生产推理栈 DeepInfer，单集群日处理 155T tokens
DeepSeek 开源了支撑 V4.1 Flash 的生产推理框架 DeepInfer，基于 vLLM 定制并支持 NVIDIA SM100 与华为昇腾 950，同时发布 deepseek-recipe 处理 Chat Completions、Responses、Messages 等 API 协议转换。
- The DecoderDeepSeek 开源推理框架 DeepInfer，支撑 V4.1-Flash 快速低成本推理
DeepSeek 以 Apache License 2.0 开源内部推理框架 DeepInfer，该框架是支撑 V4.1-Flash 模型大规模快速出答案的服务软件。
本事件热度走势
- 可比范围当前
- 3
- 可比范围峰值
- 1710月21日 15:00
- 近 24 小时变化
- -70%
趋势仅比较持续完整观测到的相同主体，范围可能小于当前热度统计。移动指针或点击图表查看每小时热度；键盘可用左右方向键切换。