凤凰网科技讯 10月20日，DeepSeek宣布将其内部推理框架DeepInfer全面开源，同步开源生产级Token编解码组件deepseek-recipe。这是DeepSeek在开源大模型、TileLang编译工具及推理算子库之后的又一开源举措。
据官方介绍，DeepInfer集成了高性能算子与深度优化的推理引擎，支持分布式推理、推测解码、SWA Bounded Replay、结构化输出等能力，兼容英伟达与华为昇腾平台。基于DeepInfer，DeepSeek已实现V4.1 Flash的高吞吐、低延迟大规模推理服务，未来新模型的推理代码及后续优化也将在此持续更新。同步开源的deepseek-recipe与DeepSeek官方API处理逻辑完整对齐，确保社区获得与官方部署一致的API体验。
DeepSeek表示，推理框架的效率直接决定AI服务的算力成本与电力消耗。开源内部部署经验旨在帮助开发者与企业优化大规模推理的吞吐与延迟，降低算力成本、减少能源消耗，让智能以更低价格触达更广泛人群。相关代码已在GitHub开源，DeepSeek称将继续支持社区进行大规模部署优化。
