Token导航 LogoToken导航

AI 资讯 · 胡说成理

ForgeKernel无需参考DeepSeek实现将核心算子提速9.8%

更新 2026-11-04胡说成理正文 1.1万字阅读约 35分钟5 张图片
就在这两天,ForgeKernel,一个无人参与的Agent在无需参考DeepSeek原始实现的情况下,当着全网的面,把DeepSeek最新的核心算子写快了9.8%!

FlashMLA是DeepSeek开源的注意力核心算子库,10月20日刚开源的推理框架DeepInfer也把它集成在内;它出自业内公认Infra最强的团队之手,可以说是代表了人类手写算子的巅峰。

这在中美竞逐全球AI创新第一策源地的PK中,拿下了RSI领域极其重要的一分,尤其是它不是编程、不是跑评测、不是开发游戏,而是写最底层的算子时,它的意义被格外加强了——RSI的光亮,已经照到了中国AI创新的底层研发能力上。

从9月到10月,各路 AI 大牛给 RSI(递归自我改进)添柴加火的力度就没降下来过。有的出于对人类和 AI 终极关系的焦虑,有的也许只是在替背后的商业组织保住一份声量。

说话的人大致分两种。一种是造风者,看的是行业的热度和比拼的烈度,底层比的是造风的能力,典型如马斯克;另一种手里有成体系的实践做凭据,却缺少整体方法论层面的支撑,比如下文的 Clark。

10月12日,Anthropic 联合创始人 Jack Clark 在 Import AI 第476期改了口:完整 RSI——递归自我改进实现完整闭环——的到来时间,从2028年提前到了2027年。

他是证据派,证据就在身边。Anthropic 的日代码合并量从五月的两千五百次涨到九月的三万次以上,Git 撑不住了,换上了自研的版本管理系统 Scion。马斯克在社交媒体上只回了一个词:Obv——显然。

所有头部企业都在往这个方向使劲,RSI 像是今天确定性最高的前沿方向;可它同时又是标准最模糊的方向,没有公开的评判框架,同一个词底下装着价值完全不同的工作。

我关注到面壁智能,是因为它比前面两种人都更进一步,拿出了可以被检验的东西。AI 从一个空目录起步,两天左右写出的训练框架,跑赢了人类工程师打磨多年的基线;面壁自己的模型,从今年5月起就在这样的框架上训练;而一场直播和它在华为榜单上的屠榜,又把这家公司推到了一个业界极其特殊、极其瞩目的位置上。

真正让我觉得炸裂的,是这家公司的体量。一家百人量级的公司,走在了 AI 研发范式的最前沿。这不是一个天授奇才的故事,它反映的是 AI 前沿竞争眼下的趋势。

两年前,面壁说要给大模型造一台“光刻机”。这台机器造出来没有,造到了哪一步,是这篇文章要回答的。

  ——导语

01

最依赖人类手艺的那一层,它赢了

一场让一般人看起来觉得极其枯燥的22.5小时的直播炸了。

它就是我们开头说过的:ForgeKernel, 一个无人参与的Agent在无需参考DeepSeek原始实现的情况下,就当着全网的面,把DeepSeek最新的核心算子写快了9.8%!

图片

直播从10月30日开始,一直跑到第二天上午九点多,前后22.5个小时。屏幕上没有人在敲代码,只有一个智能体、一块英伟达 B200,和一个目标:写出一个比 DeepSeek 的 FlashMLA 更快的 Prefill 算子。

它手里只有算子的数学定义和目标硬件的约束,没有源码,也没有论文可抄。第一版过了正确性检查,耗时1834微秒;不到4个小时,就压到了593微秒。

第7个小时前后,一次核心结构上的突破,让它先超过了自己的上一代版本,接着第一次跑赢了 FlashMLA。

直播收尾时,最终版本耗时472微秒,FlashMLA 是518微秒。全程42轮迭代,留下32个版本,只用了一块 B200、22个 GPU 小时。

人类为这个算子写下的代码,是零行。

直播后段有个细节。它自己发现,Q 的突发加载正在和 KV 的数据搬运争抢访存资源,于是主动控制 Q 的请求节奏,又压下了2.4%的耗时。这样的判断,过去只有资深专家做得出来。

算子是大模型运行时反复调用的基础计算模块。矩阵乘法、归一化等运算,都需要通过相应的算子在芯片上完成。一颗芯片能发挥出多少性能,很大程度上取决于这些算子的优化水平。数据怎么搬运、计算如何并行、芯片资源能不能充分利用,都会影响模型最终的运行速度。同样一颗芯片,算子优化水平不同,实际性能可能相差很大。

一个算子,能改写一个行业。2022年的 FlashAttention 只重写了注意力计算这一步,就让它快了数倍,长上下文从此用得起,今天几乎每个大模型都离不开它和它的后代。DeepSeek 的 FlashMLA,就是这条血脉上长出来的一支。

这也是最依赖人类手艺的一层。写好一个顶级算子,得同时吃透算法、芯片的存储层级和指令调度,再在一块块硬件上反复试错;据面壁介绍,FlashAttention 这类需要深度重构的算子,人类专家往往要数月甚至半年才完成一次迭代。

这一层,也一直是 AI 写代码最吃力的地方。2025年初斯坦福发布 KernelBench 时,最强的推理模型写出的 GPU 算子,能追平 PyTorch 基线的还不到两成。写网页、写业务代码,AI 早已得心应手;到了算子这一层,它面对的是人类手艺的天花板。

英伟达的护城河,很大一部分就筑在这一层。CUDA 生态走到今天,靠的是近二十年里一代代专家手写、调优出来的算子库;国产芯片每出一代新硬件、每来一个新模型,这些算子都得重新适配一遍。去年8月,华为宣布把昇腾的 CANN 软件栈全面开源,瞄准的就是这道墙。

可人类专家的数量,跟不上芯片和模型迭代的速度。中美在高端算力上本来就有差距,软件这道坎如果还要靠人头和年头去填,差距只会越拉越大。

所以10月27日昇腾 CANN 官方发文点名 ForgeKernel,分量很重:它同时登顶 CANNBench 的950DT、950PR、A3三张硬件榜单。

图片

950DT 是华为今年才推出的新一代芯片,配套算子库还在建设初期,人工适配本来就慢。

ForgeKernel 率先完成适配,按10月27日的榜单,总分领先第二名37.1%。

A3 对应的是眼下用得最广的昇腾910C,早在10月15日封榜的上一版 CANNBench 里,这张榜的第一就已经是它。

英伟达那一侧,ForgeKernel 在英伟达推出的 SOL-ExecBench 上最难的FlashInfer-Bench赛道上,同样排名第一。这套评测从124个真实模型里抽出235道 CUDA 算子题,量的是离硬件物理极限还差多远;同榜的还有 Databricks、Cursor、Qwen 等海内外团队。

两边的软硬件差别很大,英伟达是 CUDA,昇腾有自己独立的架构和工具链。ForgeKernel 用的是同一套系统,换平台时只把性能分析工具从 NCU 换成 msprof,新芯片需要的硬件知识,由模型在这块芯片上边测边攒。

成绩摆在官方榜单上,过程摆在全网眼前,代码也交了出来:直播结束后,面壁智能进化实验室联合 OpenBMB 社区宣布开源 ForgeKernel。

又过了几天,关于ForgeKernel的论文也正式挂网了。

图片

这件事改变了面壁在产业里的位置。它原本以端侧模型见长;现在,它写的算子同时排在昇腾和英伟达官方榜单的最前面,ForgeKernel 生成的算子也已接进训练框架,在国产芯片和英伟达平台上跑完了 MiniCPM5-1B 的长训测试。

业内一直有一种从未公开的小道消息,那就是当某个国产硬件在做软件底层的调优的时候,如果搞不定,那么可以去找面壁碰碰运气,也许会有不同的结果。当然,这只是长期在行业内小范围流传。

但这一次不一样了,华为这样的芯片厂商官方点了它的名,意味着所有基于华为生态的模型团队都可以直接拿去用,面壁从一家端侧见长的模型公司,从此登堂入室,走进了中国算力生态的最前沿位置,之后,也不会再有人把它再只当成一家模型公司了。

放到中美竞争里,这一分更重。国产芯片和英伟达之间,最难追的从来不只是硬件指标,还有 CUDA 里堆了近二十年的专家经验,那是一道靠人头和年头垒起来的墙。现在,这道墙开始可以按小时去追了,而且国产芯片的软件栈越薄,AI 能补上的就越多。

如果说面壁要造的是一台大模型的“光刻机”,ForgeKernel 刻的就是最细的那一层线条。在 AI 底层技术里最精深、最依赖人类手艺的这一层,一家中国公司的 AI,在中美两套生态的官方榜单上同时排到第一,还当众跑赢了人类手写的标杆;这比让 AI 写网页、写业务代码难得多,也是 RSI 走到今天,离“AI 造 AI”最近的一步。

这一分是怎么来的,得从 RSI 这个词说起。

02

确定性最高的方向,标准最少

大概半年前,我和一家国内 AI 原生公司的核心技术人员聊天。谈到前沿方向时,他再三叮嘱我,别对外报道他们在“AI 制造 AI”上的进展。

他的原话是:太前沿了,说出去别人会觉得我们在吹牛。

半年刚过,这个讳莫如深的话题就成了行业里最热的词,国内 AI 原生公司争相拿出自己的进展。

9月到10月的几个星期里,RSI 接连出现在各家的发布会上。阿里在云栖谈到训练、推理与芯模协同中的探索;智谱让 Infra Agent 设计和优化自家的推理系统;DeepSeek、MiniMax 也都把这个词放进了自己的技术叙事。

学术界同样密集。上海交大、清华、字节和上海 AI Lab 等机构参与的综述《人类造的最后一代 AI》,梳理了491项研究。九月中旬前后挂出的 ModularRSI 和 Dream-RSI,则把改进对象放在模型外部的驾驭层(Harness)上,底座模型保持不变。

优化推理系统、演化外部脚手架、改进训练方法,乃至参与芯片相关的设计,技术对象相去甚远,都能装进 RSI 这个大筐。按工作所在的位置摊开,大致是这样一张图:

图片

图注:各层选择反映各自禀赋。

五层各有各的工作,没有谁天然比谁高明。面壁同时出现在 Harness 层、训练框架层和模型层,反映的是它在这几层都做了具体的工作,不是给成绩打分。至于做得多深、接管了多少研发工作,这张图还回答不了。

面壁智能智能进化首席科学家李宇轩给了我一个度量尺度:“人在其中的位置”。

“RSI 的演进,本质上是行为主体逐渐转变的一个连续过程。原来是人在让模型变强,后面是模型让模型自己变强。从技术路径看,人干的那些事一件都少不了,只是执行的主体换了。”

照这个定义,写代码、调参数、造数据、做评测,任何一项工作只要从人手里往模型手里移一点,都算得上这场转变的一部分。大家争着往这个筐里跳,本身未必是坏事;可如果只报一个 RSI 的名字,彼此间的技术差别就被抹平了。

这件事为什么值得争?AI 有两样人没有的本事。一是时间压缩,人一天写五百行代码,模型十分钟就能写完;二是智能可以复制,培养一个爱因斯坦也许要以千年计,模型一旦到了那个水平,就能复制出千万个。

所以判断一项 RSI 工作的分量,不能停在名字上。李宇轩只问三件事:技术作用于研发流程的哪些环节,这些环节占整个流程多大比重,实际效果又提升了多少。

单个算子快了几倍,要看它在完整任务里占多少时间;一段流程交给了 AI,也要看前后还有多少工作等着人来做。

拿这三件事回头看 ForgeKernel,分量就清楚了。算子压在每一次训练和推理的最底层,哪个模型都绕不开;按 Gartner 9月的预测,今年全球 AI 基础设施支出约1.48万亿美元,算力效率每高1%,就是约148亿美元。

这一分也不是突然来的。用这三件事去看面壁,会发现它今天交出的东西,早有来路。

03

面壁为什么把突破点切在工程上

面壁有一个老习惯:工具不够用,就自己造。早年算力不够,团队自研 BMTrain,把百亿级模型训练的启动门槛压到三十二张卡;后来又有“模型风洞”,先在小模型上把方案试过,选好再放大。ForgeTrain 就接在这条线上。

2024年底,面壁智能首席科学家刘知远提出,要给大模型造一台“光刻机”。芯片是光刻机一层层刻出来的,精度差一点,整片晶圆就废了;模型也该有这样一台机器,把想要的样子又准又好地“刻”出来。

2025年初,这件事又往前推了一步:这台“光刻机”,能不能让 AI 来造?刻 AI 的机器,由 AI 自己来造,这正是李宇轩说的“行为主体的转变”。

面壁从2025年一二月就盯上了“AI for AI”,可能是国内最早打出这面旗的一批公司,只是当时的模型还做不出像样的东西。李宇轩是这个转向的主要推动者之一,他判断这件事要到2026年才做得成,但又必须做成。于是,在2025年8月,提前半年开始构思具体实现。

今年3月,ForgeTrain 正式开工;5月,面壁自己的 MiniCPM 训练就换到了这套方式上。等到9月行业集体谈起 RSI,面壁的模型已经在 AI 写出来的框架上训练了四个月。

上一章开头那段对话里的公司,就是面壁。他们担心说出去像吹牛的事,就是那时 ForgeTrain 已经开工,一个月后就用到了自家模型的训练上。

做这件事的是一个极其精简的团队,只有四十个人,分做内部基础设施替代、端侧适配自动化、AI for Science 和 AI 自进化,前两块已经进入工程化。

为什么从工程下手,而不是研究?

李宇轩的判断很直接:去年 AI 写代码的能力已经成型了,做数学和科研还不行,“还是玩具,只能打打竞赛”。工程还有一个天然优势,代码写对没对,跑一遍就知道,“验证一段代码比验证一个理论便宜太多”。验证成本低,AI 才能自己检查自己,闭环才转得起来。

一年过去,AI 写代码确实过了关。做研究呢?10月6日 P-Zero Research 发布的 TasteVal 基准测试专门测这件事:表现最好的 Opus 5.5 已经越过人类专家基准线,可所有提交的方案里,用到现有文献中不存在的新方法的,一份也没有。

面壁一年多前就是按这个次序下的注,资源投入押对了方向,在 RSI 上赢得了一年的先发时间。它意味着一件重要的事可能发生——模型已经频繁在数学和理论物理上取得不错成果,那么,它距离真正意义上发明人类所未有的知识上的时间就越发临近了,甚至,明天我们就可能看到一份成果被展示出来。

面壁的主场在端侧,不冲超大参数的模型,外界难免有个疑问:最前沿的能力总是先在大模型上出现,一家做端侧的公司搞RSI,是不是太早了?

面壁的回答是,它现在做的事,是用 AI 接管自己内部的研发管线,写训练框架、写算子、做芯片适配。这些工程工作跟模型尺寸没有关系,无论最终训练的是端侧模型还是云侧模型,管线都是同一条。“AI 闭环的模式,一定比人闭环的模式强”,这是整个行业里最坚定地站在 RSI 一边的声音之一。

第一章那个登顶的 ForgeKernel,就是这条管线上写算子的一环。它在 B200 上跑赢 FlashMLA,在昇腾榜单上排到第一,跟面壁自家模型的尺寸毫无关系。

弯路也没少走,最弯的一条在去年底到今年初。

那阵子 Skill 是全行业最火的概念:给智能体写一个个技能包,对模型做深度控制。李宇轩也顺着这条路搭了一套系统,亲手写了四十多个 Skill,几乎天天熬夜。效果很差,每加一处控制,模型原本的倾向和外加的指令之间就要打一次架,打架就有决策负担。

一个月后,他判断这条路在面壁的场景里走不通,一把将四十多个 Skill 全部删光。“那个东西花了我一个月的心血。”删完改走以 context 为主的路线,这条路走通了,而当时主流还都在玩 Skill。

他事后复盘,面壁做得快,一是犯过的错够多、试得够多,二是那一刀下得够果断。一个月的投入当然可惜,但投入再多,方向错了也必须放弃。

“context, not control”,后来成了面壁反复讲的方法论:把目标、环境和必要信息交代清楚,少替模型预先决定每一步怎么走。在面壁看来,整个行业都有 over control 的倾向。李宇轩认为,过度控制可能换来了稳定,但也压住了突破,为了提升能力做的过多控制,可能反而阻碍能力的进步。

ForgeTrain 就是这么做的:很少指定模型必须用哪些优化,让它自己找;什么时候必须达到什么指标,却规定得很死。可以不按人的办法来进化,交出来的东西必须过关。

04

跑通到了什么程度?

ForgeTrain 是这台“光刻机”上最先造好的部件:让 AI 从零写出一个训练框架。训练框架是大模型的生产线,业界最常用的框架之一 Megatron,是英伟达从2019年起一路打磨到今天的,这类东西过去靠的是顶尖工程团队年复一年的积累。

让 AI 来写,最先要回答的是:写错了怎么办。面壁的办法是两条工程原则,责任分离和逐比特对齐。

责任分离,是先划清每一步负责什么:上游输入对不对由上游保证,这一步只管把自己该做的计算做对,出了问题不至于整条管线一起猜。

逐比特对齐,是给第一版代码定一道硬门槛:计算结果必须与参考实现逐比特一致。这一版可以不快,但必须先证明自己是对的,之后的优化都在它上面做;一旦出了偏差,就从已确认的版本往回查,一步步做减法定位问题。光刻拼的是纳米级的精度,这台机器拼的是比特级的精度。

这些核对同样交给模型执行,不用每到一站都停下来等人。人先搭好 harness、运行环境和流程,定下验收要求,然后退出代码编写;软件架构怎么设计、先写什么后写什么,由 AI 自己安排,达到指标才往前走,达不到就继续修。

面壁的坚持是,人只要参与了,就会成为整个系统编写效率的瓶颈。模型十分钟一轮,每等一次人检查,节拍就回到了人的节拍。

这种变化在面壁内部已经很具体。以李宇轩自己为例,年初做纯工程开发,一天最多写两三千行代码;九月换上最新的模型和技术栈,最高能到十万行,最费神的事变成了给同时开着的二十个智能体拆任务,让它们互不打架。

写得出来,还得看写得怎么样。面壁对外讲的提升,都对着能找到的人类最强实现;挑一个比较差的基线做出五倍、五十倍并不难。“不比人强的,我们都不敢做宣传。”

已公开的结果里,ForgeTrain 相对 Megatron 提升约10%,ForgeMegakernel 相对业界主流的开源推理引擎 SGLang 提升约20%。ForgeKernel 走得最远,第一章那几张榜单和那场直播,就是它的成绩单。

ForgeStencil 把这套办法用到了科学与工业计算,论文记录的100个真实应用中,端到端加速的中位数为1.41倍。

尚未公开的内部结果更进一步。ForgeTrain 在内部更复杂的模型上,提升可以达到50%。

速度上的变化更直观。那篇七十五页综述的“工业实践”一节专门记了面壁:AI 从一个空目录、一份参考脚本和模型规格出发,约八小时追平参考框架,约1.5到2.5天反超基线。这组数字是多家机构联合写进综述的,不是面壁的自述。

从公开信息看,国内还没有第二家拿出端到端生成训练框架的成果。

两天反超人类基线,这样的速度用在哪里分量最重?李宇轩的回答是国产芯片。

中美芯片的差距,很长时间里是软件生态的差距。一款新芯片要把大模型跑起来,算子、训练框架都得重新适配,过去靠工程师一层层手写,以月甚至以年计;现在 AI 一两天就能写完,还写得比人好,卡住国产芯片的那道坎就开始松动了。

ForgeKernel 在昇腾950DT 上率先完成适配、排到第一,就是这句话的注脚。新芯片刚上市,AI 就能写出高质量的算子,从上市到适配好之间的空窗期,正在被大幅压缩。

图片

在李宇轩看来,到了 RSI 时代,这件事的分量还会加重。人在研发回路里的时候,其实是中美差距较小的时候。因为彼时卡点在人,而中美AI研发者的差距并没那么大;但如果进入RSI时代,人的因素消解了,算力就成了核心要素。而目前中美之间的算力可能差着几倍到几十倍。一旦两个体系的竞争转到算力上,这个差距就会被放大。所以,趁现在帮助国产芯片做好软件基建,让国产算力支棱起来,已经不是一个行业生态问题,而成了未来两个AI大国之间竞争的战略问题。

所以面壁的重心一直在国产芯片上,英伟达生态成熟,主要拿来当基线,验证技术路线走不走得通。ForgeTrain 在华为芯片上提升20%到30%,在英伟达上是5%到10%:英伟达的软件栈打磨了近二十年,留给 AI 的余地本来就小,国产芯片的软件栈越薄,AI 能补上的就越多。

今年5月发布的 BitCPM-CANN 又往前走了一步。芯片是华为的昇腾,模型是面壁的,1.58-bit 训练端到端跑通,算子、算法和训练框架都用国产技术,推理阶段的显存占用省下约六倍。

这台“光刻机”现在能刻多大的模型,面壁也划了线。几十 B 的模型、几百张卡以内的集群,AI 已经有能力全程接管;十万亿参数、万卡以上的集群,现在还刻不了。出了故障 AI 也能自己处理,可稳定性还没到百分之百,人还得在旁边盯着。

李宇轩把进展分成三段:人在环路里写代码,模型端到端闭环工程,模型端到端闭环研究和工程,三段都做圆满是3.0分。面壁自评1.5分;在他看来,行业整体还在1.5以下,面壁和部分前沿公司能到1.5或略高,要够到2.5,内部工程得百分之百由模型生成,目前还没有公司完全做到。

这份自评,是在 ForgeKernel 登顶之前打下的。拿出了结果,也知道结果止于何处,这份淡定和诚实,和眼前行业的喧嚣不太相称。

1.5分之后的路,面壁已经在走。下一步是让 ForgeTrain 不为任何模型做调整就能直接用,到那时,面壁内部模型训练代码的生成比例能到90%到100%。这套能力也已经走出面壁内部:ForgeKernel 开了源,外部的合作和 POC 在用,国产芯片头部厂商的生态部门也和面壁有合作。

“现在还是星星之火的状态,”李宇轩说,“但从底层逻辑来说,马上就是可以燎原的趋势。”

05

为什么是面壁?

面壁可能是目前头部模型企业里规模最小的之一,其中智能进化实验室的核心研发人员只有几十人,却同时做模型结构、数据训练,还要负责底层硬件的适配工作。这个组织特征,比人数本身重要得多。

训练框架、模型算法、芯片适配,在许多公司里分属不同团队。面壁没有这道组织墙,模型跑不好,同一拨人既要知道数据出了什么问题,也要知道架构有没有选对、硬件上的效率又损失在哪里。

这种跨层的本领,早于 RSI 成为热词,是资源有限时不得不练出来的。以小博大本来就是面壁的老本行,2024年2月,24亿参数的 MiniCPM 就做到了超过同期百亿参数模型的能力;到了今天,这套本领恰好用来判断 AI 接管工程还缺什么。

清华背景在这家公司里价值也在这里。刘知远、韩旭等人本身就是清华教师,团队被当作人才培养平台:带人做前沿探索,等到能独当一面,再去主持项目、培养更多人。

李宇轩就是这种组织里长出来的人。他是清华计算机系博士、水木学者博士后,做过神威·太湖之光的核心技术负责人,为“九章”设计过核心模拟算法,相关成果以合作者身份发表在《Science》正刊。他没有海外经历,起步时干的,就是让算法在神威的国产申威处理器上跑起来、跑得快,如今让 AI 给国产芯片写算子,在他看来是同一个问题。

多年以后,这个问题的新答案,出现在了昇腾的榜单上。

从神威到面壁,他先做超算,再切 AI 芯片,到面壁后从纯 Infra 做起,一路走到高效模型架构和模型自进化,配图里的芯片、训练框架、模型这几层,差不多挨个干过一遍。来回切换给他留下一个习惯:进新领域先找它和已知领域的共性,在两个领域都成立的认知,大概率在第三个领域也成立。

这种眼光用在 ForgeTrain 上,就是一次对缺口的判断。动手之前,面壁先看清了一件事:模型把小模块写好的能力已经很强,真正的缺口在于它不会把小模块搭成大系统。

所以不必手把手教它把每个模块写得更细,“你去做这些东西,就是误判了缺口”。该做的只有两件,宏观上告诉它怎么组装,组装完给它一个检查对错的办法,逐比特对齐就是从这个判断里长出来的。

写算子时,面壁又撞上了同一个缺口。ForgeKernel 团队和清华等机构合写的 JustGoal 论文发现,只给一个优化目标,模型就能在 B200 上10个算子里跑赢人类维护的开源库8个;可它擅长调细节,难以独立设计好整体架构,常在开局几次尝试里就把路线定死。

ForgeKernel 补的正是这一块。它把架构设计单独拆出来,抽成一个个里程碑,再让模型拿自己最好的版本当下一轮的对手,一轮轮往上爬。

缺口不会成千上万,要紧的是看得出它在哪里。这种全栈的理解,只能长在具体的人身上,或者一支足够小的队伍里;把每一层都堆上大量专家,并不会自动得到一个看得见层与层之间问题的组织。

小而精锐的团队更能承担前沿探索的责任,接下来的变化,正在奖励这样的人和团队。

06

前沿在谁手里

软件生态的分层,正在被 AI 打穿。

软件为什么要分那么多层?因为太复杂。一个人顾不过来,只能把不同工作交给不同的专家,再通过接口和协作拼起来,分工让大型系统成为可能,也让系统背上了协调和等待的代价。

李宇轩用过一个数学类比:证明复杂定理,需要几何专家和代数专家合作,两边先各自钻研,再花时间理解对方,最后才接得起来。AI 每一层都学过,执行速度又快,过去要靠不同专家反复沟通的工作,有机会在同一个系统里一口气完成。

他对 CUDA 的判断由此而来:“人类长期积累的那些东西没那么重要了。你有很多人在里面也没那么重要了,更重要的是你能吸引更多的 agent 进去写。”

这话说完没多久就有了实证:同一套 ForgeKernel,在昇腾和英伟达的官方榜单上同时排到了第一。

当大量代码可以由 AI 写出来,跨层优化也能交给它执行,拥有多少工程师、积累了多少现成模块,就不再足以解释一家公司的领先。人仍然重要,但最稀缺的工作开始集中到判断上:该解决什么问题,该给模型什么条件,结果怎样才算过关。

巨头依然有巨头的力量。只是大规模分工、深厚的专业储备,在 RSI 前沿探索这个特定方向上,未必还能像过去那样直接兑换成领先。

制药业早有过类似的分工。欧洲药品管理局追溯过2010年到2012年获批的创新药,四成以上最初出自中小企业、大学和公共研究机构,可到获批上市时,近九成的上市许可握在大中型药厂手里。默沙东的抗癌药 Keytruda 就是这么来的,分子最早出自荷兰的欧加农,经先灵葆雅,最终落到默沙东名下。

规模还有另一重代价:已经推进的项目越来越难叫停。删掉四十多个 Skill,在面壁只是一个人的一个月;放进足够大的组织,很可能已经牵连预算、分工和承诺,技术上可以删,组织上未必删得动。

借用库恩《科学革命的结构》的眼光,范式确立之后,比的是资源和规模;范式尚未定型,先要有人看见,大家一直在忙的事究竟是不是关键问题。RSI 眼下就处在这样的时刻,投入最多的地方,未必就是突破发生的地方。

面壁这类公司的机会,因此有了更清楚的轮廓。它足够小,可以推翻自己;学术根底足够深,不必等外部把方法讲成熟才动手;又是一家公司,要让技术在真实任务里跑起来,接受效率、成本和交付的检验。

小而精锐的团队更能承担前沿探索的责任,在 AI 的这个阶段,这正在变成事实。巨头的主场在生态和商业系统,把被验证的能力做成稳定供给,推向更多行业,做到足够高的普及率和渗透率。前沿探索和大规模扩散都不可或缺,只是越来越没有必要由同一种组织完成。

Clark 把完整 RSI 拨到了2027年,李宇轩的判断落在同一年:“今年 AI 已经拿出了菲尔兹奖级别的结果,明年一定会出现诺奖级别的成果。那个信号一出来,理论和工程就都通了。”

这是一个很激进的预判。对面壁而言,下一步很明确:今天先把工程接过去,随后让模型承担越来越多的研究工作。

无论是中国 AI 内部的竞争,中美对全球 AI 策源地的争夺,还是 AI 自身向下一阶段演进,都需要这种能率先看见问题、并把办法做出来的先锋。

两年前,刘知远说要给大模型造一台“光刻机”。如今这台机器已经开始工作,面壁自己的模型就是在它上面刻出来的,连最细的那一层线条,也是 AI 刻的。参与制造它的,已经有了 AI 自己。

作者|胡喆
文章标签算力芯片

资讯来源:由AI资讯编辑整理自互联网公开内容,版权归原作者所有,未经许可,不得转载。