刚刚，DeepSeek正式宣布，将内部推理框架DeepInfer全面开源，同时还开源了生产级Token编解码组件deepseek-recipe。
什么！！DeepSeek，你咋啥都开源啊？
这次开源的DeepInfer可不是普通的小工具，这是DeepSeek用于支撑大规模模型推理服务的核心基础设施。
按照官方介绍，DeepSeek已经基于DeepInfer，实现了DeepSeek V4.1 Flash的高吞吐、低延迟大规模推理服务。
DeepInfer不仅兼容英伟达SM100 GPU，还支持华为昇腾950 NPU。DeepSeek还表示，未来新模型的推理代码以及后续优化，都将在这一项目中持续更新。
除了DeepInfer，DeepSeek还同步开源了另一个重要项目deepseek-recipe。
开发者调用大模型API时，输入的并不只是普通文本，还可能包含多轮对话、系统指令、图片、工具调用和推理模式等复杂信息。
这些请求需要按照模型能够理解的格式进行转换，再将生成结果组织成对应的API响应。
deepseek-recipe正是为了解决这一问题。
项目提供Rust库及Python bindings，支持多种API请求格式的转换、Prompt构建、Token编解码，以及模型输出解析。
它还覆盖流式响应、工具调用、思考模式和结构化输出等场景。
这让第三方开发者在自行部署DeepSeek模型时，能够更方便地复用与官方API相对应的请求处理逻辑，减少不同部署方式带来的格式差异。
#DeepSeek
#推理框架
#开源
