10月20日，DeepSeek开源推理框架DeepInfer，集成FlashMLA、DeepGEMM等高性能组件。
同日更新的 deepseek-recipe，则补充了请求转换、模型输入编码和输出解析等服务接入能力。
这个推理框架的内容，FlashMLA、DeepGEMM等组件给行业划了两样东西：
一份“最值得做的算子”，和一把“人类顶尖专家手工打磨”的标尺。
同一周，一套叫 ForgeKernel 的系统宣布：它用 AI 写的算子，在英伟达和华为两家的算子榜单上同时拿到第一。
一边是专家积累的高性能实现，一边是AI写出的榜首成绩。然而，工程师对这场变化的感受，比外界更早。
就在一个多月前，DeepSeek V4.1发布后，参与其核心算子开发的刘胜与写下了一篇长文：《我不得不把才华埋葬在昨天》。
曾经，亲手调优算子、跑赢公认实现，是他享受的工作。
但AI的进步，让这位工程师开始重新思考自己的角色：
与其继续亲手打磨每一段代码，不如研究怎样让AI把算子写得更好。
在随后发布的补充说明中，他表示，会继续写算子，也会不断引入AI Agent参与。
他反复打磨的，正是模型运行中被大量调用的底层计算代码。
FA3（FlashAttention-3）当年靠重写算子在 H100 上快了近两倍，但这种成果往往半年才兑现一次。
而今年9月发布的GPT-6 Astra，在D2K-Bench的26项算子任务中，无需额外的专家设计指导，整体性能就超过了人类专家参考实现。
从受控实验走向公开打榜，ForgeKernel则把AI写算子的能力带到了英伟达GPU和华为昇腾两类硬件上。
英伟达侧，FlashInfer-Bench在B200上评测26项任务，覆盖DeepSeek-V3/R1等模型的推理计算。提交实现需通过正确性与作弊检查，最终按SOL Score排名。
ForgeKernel完成全部26项任务，以 0.814011的SOL Score登顶，排在Infinigence AI、Geometric、Amir M. Mir等参评者之前，平均加速比达到 5.49x。
华为侧，CANNBench面向昇腾芯片，official-tasks 2.0评测集包含60个算子。
在此前于10月15日封榜的v1.1中，ForgeKernel已位居A3硬件榜第一，基准加速比达到1.835×，比第二名infynai-kernaut高约24.5%。
10月20日，v2.0开榜后，ForgeKernel持续保持榜首。
截至10月26日，已提交55个算子，以4130.38分领先第二名serialization-swift约6.5%；基准加速比达到1.919×，高于serialization-swift的1.197×和MetaRSI的1.220×。
此外，ForgeKernel也以3077.45分登顶CANNBench v2.0的950DT硬件榜，基准加速比达到1.589×，并进一步拿下950PR硬件榜第一。
目前，ForgeKernel已包揽CANNBench的A3、950DT和950PR三个硬件榜单第一。
除了榜单成绩，ForgeKernel也尝试了针对具体模型的优化。
在DeepSeek V4.1 Flash 的相关算子上，ForgeKernel通过AI从零编写、持续迭代，实现了对DeepSeek开源英伟达版本的性能超越。
ForgeKernel的价值，也在榜单之外：让AI承担更多算子开发与优化，降低跨硬件适配成本，让新模型更快在国产芯片上跑好。
对大规模训练而言，已有硬件多发挥一些性能，省下的就是真金白银。
01
专家来不及做的优化，
AI能否补上
ForgeKernel采用AI编写算子，针对的是高性能软件开发中的一项现实难题：
模型和硬件不断更新，依靠专家逐项适配、调优，投入越来越大。
新模型可能引入新的计算结构，同一模型在不同输入长度、批量大小和精度下，也可能需要不同实现。
换一种芯片，工具链和优化方式还要随之调整。
这些工作通常需要工程师反复测试，方案写出来之后，要检查计算结果、分析运行耗时，再决定继续修改还是更换路径。
ForgeKernel让AI承担更多实现与试验工作，尝试降低这部分投入。
模型根据目标自主调用工具，完成代码编写、编译调试、精度检查和性能优化。
能否编译、结果是否正确、运行有没有变快，都能在实际环境中验证，并成为下一轮修改的依据。
这种方式也为按需定制提供了空间。
围绕具体芯片和负载尝试更多方案，过去因专家投入过高而不划算的优化，可能变得值得做。
对国产算力而言，模型更新后能否及时适配、跑通后能否充分调优，都影响芯片的实际利用。
评价这类方案，需要把性能收益、开发周期、人工投入和测试开销放在一起看。
02
模型已经会自己写算子了，
还需要人来教吗？
让AI完成算子优化，需要给它多少指导？
Justgoal做了一个直接的尝试：给基础模型明确的优化目标，配上通用工具，让它自行决定怎样写代码、调试和优化性能。
不预先规定每一步使用什么优化方法，也不要求模型沿着专家设计的固定路线执行。
编译、测试、分析结果，再修改实现，由模型自主推进。
