DeepSeek 公布推理引擎开源路径

昨日，DeepSeek 悄悄在自己的 open-infra-index 库中发布了一份题为「开源 DeepSeek 推理引擎的路径」的文档，宣布将开源自己的内部推理引擎（internal inference engine），并与开源社区建立更广泛的合作。

DeepSeek 在文中致谢了 PyTorch 和 vLLM，两者分别在 DeepSeek 模型的训练框架以及推理引擎起到重要作用。DeepSeek 还表示「希望尽己所能回馈社区」，但发现了「代码库差异」「基础设施依赖」「维护宽带有限」等挑战，而 DeepSeek 也提出了更可持续的替代方案 —— 与现有的开源项目合作：

   •   提取出分立的功能：将可复用的组件模块化并作为独立的软件库贡献出来；
   •   共享优化：直接贡献设计改进和实现细节。

值得一提的是，据网友消息称，DeepSeek 曾修改过文档内容，对一些措辞、表述进行更中立的处理。其中 DeepSeek 在文中曾提及 SGLang 与 vLLM 两个项目的合作关系，但后续为强调「未来开源合作是面向整个开源社区」，将上述合作关系调整为「现有的开源项目」。

文档链接：https://github.com/deepseek-ai/o ... ce_Engine/README.md

文章来源：爱范儿