Token导航 LogoToken导航

AI 资讯 · 虎嗅网

DeepSeek开源推理框架DeepInfer并适配昇腾

更新 2026-10-21虎嗅网正文 1459字阅读约 5分钟

克苏鲁梁圣

本文来自微信公众号:翔哥趋势研究,作者:翔哥,题图来自:AI生成

“滑动变祖器”又往右移动了两格,重回梁圣位。

继DeepSeek V4.1-Flash-1017版本受好评后,DeepSeek又将内部推理框架DeepInfer开源,该框架可在英伟达与华为昇腾平台运行,并同步开源Token编解码组件deepseek-recipe。

现在要搭模型,你梁叔叔给出了几乎全套工具,MoE 架构、MLA、DSA、GRPO,算子库(FlashMLA/DeepGEMM/DeepEP)、编译器(TileLang)、 权重 、Harness(DSH),现在加上推理框架(DeepInfer),就剩下KVCache 管理、跨副本负载均衡、RL 训练管线、数据配方、V5 的训练细节这些,梁圣还捂着了。

当然了,大把号称自研的模型,不管它们在后训练如何特化跑分如何好看,都不过是 DeepSeek 的徒子徒孙,我猜梁圣倒是乐见其成的。我们早就预测开源模型会继续往 DeepSeek 路线收敛,梁圣持续开源,其实是玩得一把好阳谋。

就像克苏鲁一样,算力受限的玩家们,看了 DeepSeek 技术报告,用了它架构和技术,最后都变成它,跑都跑不掉,毕竟在算力约束下这是目前最优路线。

现在,梁圣要更进一步了。

我们都知道 DeepSeek 面临的一个结构性问题是缺数据,这也是所有前沿模型厂的问题,O 记、A 社绕数据墙的方式是打了三条隧道,合成数据、RL 飞轮、花钱买,每一条都吃资本,幸好,它们最不缺的就是钱和融资渠道。

显然,无论是拼算力还是拼资本,DeepSeek 都拼不过O记、A 社,那么不妨就换个思路,用生态密度对冲资本密度。权重、框架、算子、编译器全部摊开,让全世界的开发者、硬件厂商、部署方变成自己的互补品,昇腾帮适配芯片,第三方帮修 bug,云厂商帮铺渠道,推理 know-how 摊平后,全行业 token 成本曲线下移,调用量放大,而模型定义权和轨迹数据飞轮仍在自己手里。

这才是真开源,所有的一切都围绕着 DeepSeek 构建。

DeepInfer 兼容英伟达与昇腾,尤其是后者,等于 DeepSeek 把自己写成了国产算力事实上的标准推理栈,昇腾芯片有了开箱即用的一线模型推理方案,DeepSeek 则给自己的供给端买了保险。相互锁定,各取所需,国产算力跑国产 LLM 逐渐完成闭环。

鉴于这个话题比较敏感,就先说到这。

此前,其他国模厂其实就要回答一个问题,那就是继续全自研模型的意义,而现在这个意义就更可疑了,DeepInfer 框架下,155 万亿 Token/天/集群、每卡每小时 38 美金,DeepSeek 做了一次价格锚定行为,从此全行业所有 MaaS、所有优化推理中间商,都要在这个分母面前再解释自研、加价的理由。

一大批推理优化创业公司的核心价值被开源代码部分清零,而除 O 记、A 社外的其他模型厂也得回答:如果我们拿不出更便宜、更高效的推理框架,干嘛不用DeepInfer?

DeepSeek 正在做的事,是把技术兑换成标准,模型会过期,框架会沉淀,标准会锁死路径。

不过呢,DeepSeek 这次开源只是提供了如何便宜地跑自家模型,梁圣要想不再变小梁、梁子,还得看 V5 的表现。如果 V5 拿不出数据制造层的算法杠杆点,也没能重回 SOTA 前列,那么再漂亮的全栈开源,也只是在既定生产函数里把效率做到极致,而不是改变生产函数。

标准制定的窗口期,就是技术领先的半衰期,这行业从来都是靠实力说话,起码此时此刻,梁圣还是实至名归的。

他仍是所有 AI“天才少年少女”梦魇里的克苏鲁。

本文来自微信公众号:翔哥趋势研究,作者:翔哥

文章标签AI资讯

资讯来源:由AI资讯编辑整理自互联网公开内容,版权归原作者所有,未经许可,不得转载。