它就是10月20日开源的DeepInfer，它是DeepSeek内部大规模推理的核心框架。官方文件在《DeepSeek V4.1 Flash 大规模推理部署实践》中提到，这套框架现在就支撑着自家的生产服务，是其“推理加速、省显存、降成本”的商业秘诀。
这项技术有多核心？大家知道 Deepseek横空出世，靠的就是极致性价比。国外独立AI 研究员Bojie Li发现，如今DeepSeek的缓存命中折扣是97%，其他家基本都是90%。
要知道大模型便不便宜，现阶段不太看输入输出价格，大家拉不开差距，更重要的是看缓存命中价格。他提到DeepSeek的缓存命中 input Context收费比其他家便宜 3 倍，这意味着对 Agentic workload的实际运营成本降低 40% 左右，这是巨大的成本优势。
现在 DeepSeek直接把这项技术开源了，其实DeepInfer的依赖列表里，FlashMLA、DeepGEMM、DeepEP这些名字，去年持续一个星期的“开源周”就出现过，现在DeepSeeK是把整个调度这些技术的核心框架也开源了。
从MLA(多头潜注意力)到去年的开源周，以及今年的 DeepInfer ，让我们细数DeepSeek开源的这些技术，到底给行业带来了哪些冲击。
模型与架构层开源，白菜价的秘诀公开
早期的DeepSeek-Coder、DeepSeek LLM，都是直接开源模型本身：大家自由下载，可以放在自己的环境里跑，再按需要微调。
2024年1月，DeepSeekMoE公开，这是DeepSeek首次开源核心技术。MoE这条路线并非DeepSeek发明，但是DeepSeek在行业中首次细致开源实现路径。
MoE简单理解就是把模型里的一部分计算，交给不同的“专家”（计算模块），每一步只调用其中一部分。如何调度组合，DeepSeek把模型权重和代码也一同放了出来。
2月的DeepSeekMath，它是一种强化学习方法：同一道题，让模型生成一组答案，再根据评分做组内比较，用比较结果指导更新。
再到5月，V2把MoE的能效发挥出来。总参数2360亿，每个token激活210亿，还不到总数的十分之一。
另外，V2 还开源了MLA，这是DeepSeek当年惊艳全球的根基。
它大幅度减少了模型在生成文本时所需的显存（KV Cache），让大模型不用吃那么多硬件也能跑得飞快。V2报告中，与此前DeepSeek 67B相比，KV缓存减少了93.3%。
就像大模型读上下文记录了厚厚的笔记，现在MLA让笔记变薄却没有损失质量，读上下文轻松快速许多。
大众熟知的R1在2025年1月发布，属于强化学习路线节点性质的成果。
R1 的论文把训练方法写得很明白，还登上了《自然》封面。要知道那时候OpenAI的O1是全球第一个推理模型，O1 输出 60 美元/M，R1 只要 2.19 美元，R1出现直接砍掉 96.4%，推理模型直接变平民化。
元宝借助R1免费给用户使用，登上当年AI助手国内用户数第一的新闻，大家还有记忆吧。
开源周公开的，是怎样让机器少等一会儿
2025年2月24日，DeepSeek开始连续发布基础设施项目。连续一个周开源重磅技术，对当时AI圈产生了不小影响。
第一天的FlashMLA，把MLA这套缓存思路落在硬件算子上。解决的是架构层面怎么压缩KV，解码算子让计算高效执行出来。
第二天的DeepEP，则盯上MoE带来的跨卡通信：专家散在不同GPU上，输入得送到对应位置，计算结果再汇总回收。
MoE让每次只用一部分专家，但被选中的专家经常不在同一张卡上。DeepEP正是在给这种分工补配套，让分发和汇总的开销更低。
第三天的DeepGEMM帮助大家不用从零造轮子，它处理大模型反复执行的矩阵乘法。最初开源的是FP8矩阵乘法库，既支持稠密计算，也支持MoE，已经用在支持V3、R1的训练和推理中。
第四天的DualPipe和EPLB，又是在跟等待时间较劲。
DualPipe安排训练流水线，让计算和通信尽可能交叠起来，互不空等。EPLB处理MoE的天然问题—负载不均：某些专家很热门，所在的GPU忙不过来，别的卡却可能空着。它会智能调度副本位置，让整体吞吐更高效；
第五天是3FS，以及建在3FS和DuckDB上的smallpond。3FS把SSD和高速网络组织为共享存储，供应训练数据，保存和恢复检查点，也能用于推理缓存。smallpond则擅长处理大规模数据。
第六天，DeepSeek又公布了V3/R1推理系统概览。系统长什么样、组件怎样协作，逐渐有了公开的参照。
这一系列项目合在一起，相当于把大模型训练、推理背后整套后台工序都开源清晰：算子管计算、通信管数据搬运、调度管资源排布、存储管持续供给数据。而且，整套工具链直抵英伟达 GPU、华为昇腾 NPU 的底层，让各个环节协同高效运作。
从长上下文的难题，一直做到推理引擎
2025年DeepSeek的另一组研究，则围绕长上下文展开。
2月公开的NSA论文，探索可直接训练的稀疏注意力；9月的V3.2-Exp则引入DSA，用索引和筛选机制，把注意力计算集中到选出的部分内容上。
10月的DeepSeek-OCR，从文档图像切入，探索文字能否通过视觉编码压缩成更紧凑的表示，并开放模型和推理代码。和MLA相比，它动的是输入文档的表达方式。
2025年末到2026年，mHC和Engram是V4标志性技术，发布时间甚至早于模型。
梁文锋亲自署名发 mHC 新架构论文，这项技术希望在增强连接表达能力的同时，保持信号传递稳定，解决模型规模扩大时的训练问题。
当时有海外博主牙医报道，有人租了8张H100的显卡，直接复现了Deepseek的mHC。令人惊奇的是，即使信号放14,765 倍, 这次训练也没崩，靠梯度裁剪扛住了爆炸的梯度。要知道大厂都是千张 H100训练，一天烧几十万美金，训练经常崩那可承受不起。
2026年4月发布的V4预览版，开放权重，支持百万token上下文，用上混合注意力和mHC等设计。10 月 17 日更新的 V4.1-Flash-1017，沿用 CED 非对称 MoE 架构，继续以 MIT 协议开源，将斩杀线进一步夯实。
到这里再回看DeepInfer，它用到了FlashMLA、DeepGEMM、DeepEP等组件，又把跨卡并行、推测解码、异步调度放进同一个推理框架。比如GPU在跑当前计算时，CPU可以准备后续调度，尽量少让昂贵的计算设备停下来等。
公开数据
根据公布的数据，基于 DeepInfer 框架，DeepSeek 已实现 V4.1 Flash 的高吞吐、低延迟大规模推理服务，单一集群每天处理约 155 万亿 Token，整体收入折合每张计算卡每小时 38 美元（254 元人民币），按谷时段 API 服务价格计算。
这套系统的整体收入也高达每张卡每小时 38 美金，折合人民币差不多 253 块钱。所以这次开源，大家称这是 Deepseek的印钞机引擎级别的开源。
当然，DeepInfer的开放范围也有限：完整KV缓存系统、视觉编码与输入处理及生成阶段的分离部署、服务副本间负载均衡，尚未全部包含。
但我们从DeepSeek这次开源的DeepInfer到此前的历次开源，能感受到对模型生态的多重影响。
最明显的是，市场都体验到了超高的性价比冲击。
一直以来，国外闭源模型都很贵，早期都是100$/百万token，每次DeepSeek都能拿出杀手锏。终结云厂商与 API 服务商躺着赚高毛利的时代。
这是博主“杨同学丨Agent实验室”所统计的DeepSeek每代模型，对比同期闭源模型的价格，可以看到每次每百万Token的降价幅度都在90%以上。
随着 DeepInfer 连同整套部署方案的开源，中小云服务商和企业完全可以照做一个“小DeepSeek”。
更重要的是，大家都有用得起的“无限”上下文。
现在多步骤的Agent，以及正在流行的Personal Agent，最头疼的就是超长上下文，DeepSeek 的缓存复用技术让智能体在反复调用工具、塞入长对话时，绝大部分历史内容不需要重复计算。
企业客服、法律咨询等场景，都可以用AI可劲造了。
如果眼光拔高，意义则是打通“国产芯片到框架”。
因为这次开源的 DeepInfer 不仅支持英伟达，还直接兼容了华为昇腾（Ascend）等平台。它让大模型在国产芯片上也能跑出高吞吐、低延迟的生产级效果。
所以每次DeepSeek发布，才让行业这么期待，它才是真正的赛博菩萨。
资料来源
- [1] 官方仓库 https://github.com/deepseek-ai/DeepInfer
- [2] Coder https://github.com/deepseek-ai/DeepSeek-Coder
- [3] LLM https://github.com/deepseek-ai/DeepSeek-LLM
- [4] DeepSeekMoE https://github.com/deepseek-ai/DeepSeek-MoE
- [5] DeepSeekMath论文 https://arxiv.org/abs/2402.03300
- [6] V2模型说明 https://github.com/deepseek-ai/DeepSeek-V2
深度体验 Dots 11天，我终于懂了「Personal Agent」
用小红书最火的AI玩法，打造十一假期「大西北游」神片
