Token导航 LogoToken导航

AI 资讯 · 亲爱的数据

32台机器模拟万卡训练效果

更新 2026-11-20亲爱的数据正文 9529字阅读约 30分钟17 张图片
图片
图片

(一)发现宝藏

大模型的算法同学,

总要判断一个

新策略值不值得上线。

又不可能每换一个策略,就开万卡去试一次。

低头看看手里的卡数,

我宣布 ,这次行动的代号就叫「寒酸」

当然,动不动就万卡,

中东石油土豪也不能这么玩。

就好比,飞行员练胆故障,

不可能次次都开真机去坏一回。

没有万卡,但想知道万卡跑出来啥效果,

这道题怎么解?

我发现一个好办法,

只用少量卡,真跑其中几张,其余的靠仿真补上。

这个办法来自一篇论文(CrystalLLM)

论文已被国庆在布拉格召开的顶会SOSP'26接收。

图片

我找到CrystalLLM这个方法,

有些许因缘际会。

一方面有大厂技术高T的直接推荐,

另一方面,在一些公开演讲的PPT上,

CrystalLLM低调露面。

当然,很重要的是,

我特意在大厂内部打听过,

有团队实实在在在用,只是不方便透露,

所以,这篇的标题不会写成《模型大厂内部武器》。

最重要的一点是,它是开源的infra。

我作为阿里模型平台PAI的老朋友,长年跟踪,

有机会了解到一些内部故事。

不过,这一切都以学习为导向。

作为一个科技KOL,多喝咖啡,多学习,

我把跟着论文作者学懂它的过程,

摊开给大家看。

另外,作者团队配置非常豪华,

Harvard University,

Shanghai Jiao Tong University,

Zhejiang University,

Alibaba Group。

图片

(二)两个数,为何重要?

我认为,CrystalLLM的本质是这样一个局:

让几张真跑的卡,以为自己正在万卡里干活,

进而拿到想要的结果(时间和显存)。

至于,这个局怎么做,马上展开。

我和论文作者之一,聊了很久很深。

下面我按自己的理解,把文章的思路捋一遍。

首先,最一等一重要的是,两个观测指标。

“单步时长”和“显存峰值”。

这么复杂的事情,

为啥仅仅2个指标就够了呢?

我可不是在兜售速效成功学:

《1天背会10000个GRE英语单词》,

这种捷径,我从来不信。

说回来,为啥它俩重要?

首先,算法同学评估一个改动时,

最终只关心两件事:

能不能跑,跑得快不快。

先说“能不能跑”。

训练也是一步步走出来的,

显存的用量在一步训练里是起伏的,

只要某一刻超过显卡的上限,就会爆,

那么,峰值就很重要。

再说"跑得快不快",

这事是“单步时长”决定的。

预训练就是同一步重复几十万次,

进入稳定状态后,每一步的耗时基本一样。

数据打包的均衡问题,咱先不讨论。

那么,只要测出一步要多久,乘上总步数,

就知道整个训练要花多少时间。

还有很多很重要的指标,比如“吞吐”“MFU”,

也都是从单步时长推算出来的。

听上去,训练工程师的两个人生目标有了,

第一,别爆显存;

第二,在不爆显存的前提下,快一点,再快一点。

那不就是一道带约束的优化题么?

在显存峰值不超过上限的前提下,

让单步时长尽量短。

这样,在这两者之间做取舍,就需要很多开关,

用时间换显存,或用显存换时间。

无论开关怎么开怎么关,最后还是看这两个数。

好的,宝子们,问题来了,

没有万卡,怎么拿到这两个数?

图片

(三)两条路,走哪条?

我想,有两条路,估算和仿真。

走第一条路的话,靠估算出结果,

那就要看能不能算得准了。

走第二条路,就是仿真了。

图片

可能有人会问,预训练搞了这么多年,经验那么多,

为什么不直接估算?

答案是变量太多了。

即便是CrystalLLM,也是一部分“真跑”,

一部分仿真。

我想“估算派”可能认为变量比较好估算。

而实际情况,恰恰相反。

于是,先别急着讲仿真。

虽然我觉得仿真才是真正的好路,

但不把这些变量弄明白,

就既看不懂估算为什么不靠谱,

也看不懂仿真到底要把什么做对。

小小变量,为啥可怕?

论文里说可调的开关有十几个。

现实更残酷,

不是只有ON/OFF的开关,

还有那种调多个档位的开关。

我很高兴它告诉我这个知识点,

调开关,是一门实打实的难事。

它不是硬件难,也不是算法难,

难在配置空间太大。

这篇文章说的就是训练框架这一层的配置难度。

本质上,训练配置是在分配资源,

计算,显存,带宽资源。

只要是资源都要分,

我理解,开关就是分配的开关。

文末有我问论文作者的一个问题,

CrystalLLM到底是在训练引擎哪一层下手的?

有作者亲自给的答案。

开关一改,变化就来了。

有些是单独变化,有些是速度和显存一起变化。

仅仅是下面这两类可调开关,就有十几个。

第一类是并行切分方式。

第二类是显存策略,

我还没有包括算子实现,

通信库里的各种传输协议等。

比如,聊卸载这个显存策略。

顺势就聊出来灵魂三问:

1.要不要把优化器挪到CPU?

2.挪多大比例?

3.数据搬运要不要和计算同时进行?

看吧,单独开关是一层难度,

互相影响是第二层难度。

论文算过,这些开关组合起来超过十万种,

其中能跑起来的也有几千种可行组合,

人工只能凭经验挑几组试,费事费时,

且只找到经验范围内的最好结果。

这还只是配置,硬件也在变。

GPU大约两年换一代,

算力,显存,带宽都不一样;

多模态训练里,不同阶段的序列长度能差十倍以上。

经验是在上一个模型,

上一代硬件,上一套配置上攒下来的,

条件一换,结论就未必成立。

一变,瓶颈就会换地方。

走“估计”这条路,误差带你去沟里。

估算的难度,原理就讲到这里吧。

然而,我觉得,这样还不够,

再赠送一个地狱级别的例子,

把并行切分方式和显存一起调,

为啥一起调?

因为这两类开关管的是同一件事,

每张卡的显存怎么用改了一边,

另一边的最佳选择也跟着变,没法分开调。

并行切分决定了每张卡要装多少东西。

切分方式在拿时间换显存,只是花时间的方式不同。

这也是为什么人工调起来特别难。

图片

(四)为何要跑三次?

既然估计不准,

那就“想办法”跑出“万卡的结果”。

这样,看上去,只剩下CrystalLLM的思路了,

我借用了一个词来帮助我自己理解。

图片

这词就是“剧本(执行图)”。

剧本大纲是跑出来的,

剧本细节也是跑出来的,

不得不说,干货都是“跑“出来的。

第一次跑,跑出剧本大纲。

把全部rank都真算一遍,

顺序不是从配置推出来的,

是程序跑到哪记到哪。

要记完一步,rank就得真的跑完一步。

用少量卡,哪怕一张卡,

运行万卡任务里的一个rank。

它执行到该通信的点,跑不动,停下来,

GPU上下文存档,腾出卡。

换下一个rank执行到同一处,同样存入。

以此类推。每个rank一路执行过的计算,

通信及其依赖,按发生顺序记录下来。

得到一个只有“出场顺序”的剧本大纲。

第二次跑,跑出剧本里的准确时间。

剧本里有,谁,什么顺序,多长时间。

第三次跑,跑出的不再是剧本,是答案。

跑完就是工程师要的那两个数:

这个配置下,一步多少秒,显存峰值多少。

而且,换一个开关,换一套配置,只要切法没变,

剧本大纲可以接着用,

只要第二次跑重新填一遍时间,再跑第三次。

看上去,第一跑有点像热身运动,

这样的话,细讲有必要从第二跑开始。

先找来少量卡,分为观测卡和助理卡,

助理卡下一章再展开,它的作用很大。

我们先说清分工。

在万卡训练里,

模型按切法切(TP,PP,EP)成了很多份,

每张卡只负责其中一小份。

观测卡要做的,

就是坐进生产分工表上的某几个位子:

那几个位子负责哪一份模型,算哪一部分,

观测卡就负责同样的。

比如,坐的是流水线第2段的8个位子,

那它们上面就只放第2段的那几层。

在助理卡的帮助下,

少量观测卡上跑的是和万卡训练中(生产中),

是一样的。

同一份训练程序,同一套配置,

收到的每一份数据,

收到数据的每一个时刻,

这样,这几张卡上的每一个操作,

都按生产中的方式发生,

拿到的结果,几乎就是生产中的结果。

观测卡和生产无异,测出来的数就是生产的数。

我想,这就是论文题目里"忠实(Faithful)"的意思,

作者告诉我的原话是:

"不为省GPU数量改任何配置"。

图片

(五)“真跑”与“仿真跑”?

聊到这还不够,再往下深挖,

因为仿真说的是整个论文方法,

但里面有"真跑"有"假跑"。

第二跑的前一半是观测卡“真跑“,

程序,配置,模型分片,GPU 型号,一个不改。

第二跑的后一半,是观测卡和助理卡的“仿真跑”。

生产里,它每一步都要和几千张卡交换数据;

现在那几千张卡不存在,可数据还得照收,

什么时刻到,送来的是哪一份,都得和生产一样。

这一半没法真跑,

由助手卡代替那些不存在的卡来完成通信。

助手卡凭什么知道,什么时候该送什么?

凭剧本。

剧本上写的,是全部一万张卡,

在训练里一步一步依次要做的事,

只写两类动作:算和通信。

"算"这一行只记一个数,

这张卡在生产中算了多少毫秒;

"通信"这一行记的是,

这时候和谁交换数据,交换哪一份。

开工时,真跑的那几张不用看剧本;

其余位子的戏份,助手卡照着演:

读到"算",它什么也不算,原地等够那几毫秒;

读到"通信",它就用和生产一模一样的通信库,

把那份数据真的发给观测卡。

对观测卡来说,数据在生产中会到的那个时刻到了,

内容也和生产中一样。

至于发数据的那张卡到底算没算,

观测卡无从知道,也不需要知道。

这时候,一定要理解,

CrystalLLM是怎么把剧本(执行图)写出来的?

卡数太少,表面上缺卡,

实际是缺卡和卡之间的关系。

第一缺的是组队关系。

每张卡要知道自己和哪些卡一组,

没有分组,数据就不知道该发给谁。

第二缺的是报不存在卡的信息,

开训前,同组的卡不只是交换地址,确认能连上,

还要互相报上硬件信息,

比如GPU型号,网卡带宽,机器内部怎么连,

然后每张卡各自算出通信路线,比如走环还是走树。

几千张不存在的卡,也得把这些信息报上来,

观测卡算出的路线才和生产一致。

好消息是,CrystalLLM补上了这两样。

图片

(六)为什么“缩小”搞不定?

到这里,CrystalLLM的巧思可以这样总结,

配置一个字不改,小卡不扮演"整个任务的迷你版",

而是顶替大任务里的几张卡,

干的是大任务里那部分真活。

这几句一定要敲黑板。

我认为,这甚至是忠实(Faithful)的本质之一。

我也和作者讨论过,为什么没有用“精确”一词。

因为“精确”能描述结果,却不能描述过程。

我们接着聊。

一张卡把数据交给卡间通信库(NCCL),

NCCL是卡间通信库,也叫集合通信库。

它开训前负责把卡和卡连起来

,开训后还要接着干活,

训练过程中卡和卡之间的数据,都靠它来搬。

所以它叫,少了它,训练根本跑不起来。

然后,这张卡等着对方的数据回来。

中间数据走了哪台交换机,

绕了几跳,带宽多大,卡都看不到。

它只知道这一次等了多少毫秒。

显然,论文作者们要利用这点。

所以,只要把每次通信的大小,

和到达时间准确记下来,

就等于把大网络对这张卡的全部影响都记下来了。

小卡资源就那么多,

想把完整任务塞进去跑起来,须改并行策略。

比如,生产上万卡时TP开2跑得很好,

到了小卡上,显存不够,

TP被迫开到8,不然爆显存。

话说,策略一改,就是另一个任务了。

因为每张卡上模型怎么切,

矩阵什么形状,通信怎么走,全变了。

在它身上测出的时间和显存,

说明不了生产配置的事。

"缩小版"这条路天然有局限,走不通。

图片

(七)第一道坎

怎么把任务“起”起来?

启动本身不难,卡一少,

就成了巧妇难为无米之炊。

在真的万卡集群里,

一万张卡,一万个进程,

每个进程起来,走到PyTorch这一层,

再由PyTorch去调集合通信库NCCL,

在自己那张卡上建一个通信“后端(Backend)”,

建的过程要占显存。

CUDA环境加上通信组的缓冲区,

一个进程要好几百兆。

所以,在真集群上,没人觉得这是个事。

然而,CrystalLLM手里只有32台机器,

却要让训练程序相信,跑在万张卡上。

先算算,如果把一万个进程都起出来,

要多少占显存。

每个进程按500兆算,一万个进程就是5000G;

8张卡上根本放不下。

论文里有一组更扎心的数。

按最老实的办法,

每个虚拟rank单独起一个进程,

起到512个,CPU内存就吃掉544.5GB,

显存103.7GB,光拉起就要756秒;

到1024个,直接爆显存。

所以,难的不是一万个进程本身,

而是一万个进程挤在几张卡上。

卡量一小,原本摊得很薄的开销,

全压到了同一个地方。

难题从“怎么把一万个进程塞进去”,

变成了“哪些进程根本不用起”。

要知道,观测卡真正打交道的,

只有少数几个通信组,

和它挨着的几个邻居。

其余几千个进程,隔着好几层,

它们在不在,观测卡感受不到。

好吧,那就只留和观测卡沾边的。

论文举过一个例子,2000个虚拟rank,

通信组本来有8617个,删到只剩82个。

做减法肯定有代价。

于是,作者心灵手巧地给通信库加了个东西,

也就是Bootstrap proxy

它替没来的卡报到。

正常情况下,每张卡上起的是NCCL的Backend;

Bootstrap proxy是起一个特殊的Backend,

所有不需要存在的进程,

统统托管给它,根本不启动。

到了点名环节,

由代理出面,替它们把元数据交换明白,

报上去的硬件信息,拓扑信息,

和真进程报的一模一样。

按论文的说法,

是截住了NCCL初始化的控制通道,

因为生产集群是同构的。

代理替几千个没到场的进程报硬件信息,

它怎么知道该报什么?

答案就是"同构"。

生产集群里所有机器都是一个型号,

同样的 GPU,同样的网卡,机器内部同样的连法。

既然一样,proxy照着观测卡所在机器的真实情况,

原样抄一份替缺席者报上去,就不会错,

因为那些进程真来了,报的也是这份。

假如换成一个混搭的集群,

一半H100 ,一半华为的卡,

情况就更为复杂,更为难办,

我们就不在这里讨论。

接着说,效果有多明显?

8192个rank的拉起,44.3秒,

每张物理卡大约只用5.4GB显存。

写到这里,我再次感慨论文思路的巧妙。

观测卡和外界唯一的联系是通信。

这就要求作者团队既做网络,

也做训练引擎,两头都懂,

才能想到在通信库这个交界处下手。

图片

(八)第二道坎

完整“剧本”是怎么写出来的?

先把任务起来了,才有机会拿到剧本(执行图)。

前面说,剧本也分剧本大纲,完整剧本。

剧本上写的是那几千张不存在的卡,

在一步训练里依次做什么,每件事做多久。

那么问题来了,

这些卡不存在,

它们的“掐表的时间数”是从哪来的?

论文作者的办法,叫时间换空间。

用我的话,简单说就是,

每组都真跑一次,一共跑四次。

细细讲就得举个例子,

用流水线并行(PP)来讲最好懂。

现在只有一组卡,

那就先跑第一段,再二,再三,再四。

一组卡把四段都轮一遍,

四段的记录拼起来,就是一份完整的剧本。

代价是时间,花四倍的时间。

空间省下了,时间花出去了,

这就是时间换空间。

可是,这里藏着一个坑,

每次分片真跑时,只有这一组rank是真的,

其余rank由助手卡扮演。

可这时候助手卡手里的还只是剧本大纲,

只知道谁先做什么,后做什么,

不知道每件事花多少毫秒,

因为毫秒数正是现在要测的东西。

于是,只有真rank自己算了多少毫秒,

是实测的,才准。

论文里有句话,很清楚,

在一个1024个rank的任务里,

某个分片可以在观测卡上执行rank 0–7,

同时rank 8–1023在助手卡上回放。

也就是说,所有分片执行完之后,

每个rank都至少以真实rank的身份运行过一次,

由此得到准确的分片级时间。

再接着就是校准,

校准就是按"交棒"把它们串起来,

第二棒必须在第一棒交棒之后才能起跑。

为什么必须做?

论文测过一次不校准的结果,

算出来5.7秒,真实是5.13秒,误差超过10%。

校准之后,单步时长的平均误差降到0.58%。

不过,CrystalLLM有一个天然的适用范围,预训练。

后训练看上去不行,因为它高度异步。

但是有一点,

后训练中也有与预训练高度相似的部分,

也可以用CrystalLLM。

图片

图片

(九)为什么会这么准?

我认为CrystalLLM的美妙之处,

就在于“真准”。

接下来这一部分,

我认为也是作者认为最重要的点。

展开讲讲,我学到了什么。

先看,每一段都仿真到了什么?

时长方面,流水线切成四段,

但每一步结束时,四段都要对齐,

所以不管看第一段还是第四段,

一步的时长都一样。

时长这件事,看哪一段都行。

再说显存。显存不一样,四段各不相同。

所以,抓图的时候,观测卡的位置是移动的,

先观测第一段,再第二段,

第三段,第四段。

这样,这个策略下每一段的显存都实际跑过了一遍。

如果四段都没有爆显存,

基本就可以认为这个配置不太会爆显存。

这点不好理解,可能会仍有疑问。

那么,我构造一个问答环节。

观测卡平时只运行了其中一段,

凭什么能说整个过程配置的显存没问题?

答案是,抓图阶段四段都轮流坐过了。

有两种思路,模拟和仿真,

为什么仿真准?

我和作者特意聊了,

他们的方法叫仿真,英文是Emulation;

另一类叫模拟,英文是Simulation。

逻辑完全不同。

模拟是先离线建模,再拼起来算。

属于积木派,但是组合太多了,情况太复杂,

无法穷尽。

而且受到“黑盒”的限制。

这个黑盒,得说准一点。

CUDA的底层是闭源的,

核心数学库(cuBLAS)闭源,

同一个算子挑哪种实现,内部规则不公开;

代码最后编译成GPU真正执行的机器指令,

这一步也是闭的,

连指令集都没有公开文档。

所以,真正跑在GPU上的东西,

对外人就是个黑盒,

而且它的行为跟输入有关,

输入不同,表现就不同。

仿真是把整套软件和硬件原样保留,

理论上,不可能把它精确地建成模型。

CrystalLLM不去猜,

它让同一份代码,同样的数据,

在同型号的卡上真跑一次,

黑盒里选了什么,切成什么样,

都会真实发生一遍。

显存峰值的误差能低到 0.01% 以下,

原因就在这里。

仿真绕开了黑盒,

不需要看懂黑盒,

只要让它真的跑一次。

黑盒里用的是哪个算子,

CrystalLLM不需要知道;

它只需要保证,喂给黑盒的东西和生产一模一样,

黑盒自然会做出和生产一样的选择,

观测卡把时间和显存,原样测出来。

图片

(十)准到什么程度?

说了半天准,到底多准?

论文给的数是,单步时长平均误差0.58%,

最大1.98%;

显存峰值的误差,不到0.01%。

作为对照,走“模拟”路线的工具,

美国Meta公司参与的Phantora一般在12%左右,

个别情况能到64%。

内部所有场景,误差都在3%以内。

而对训练团队来说,

一个策略好不好,work不work,

其实能做到5%以内,就可以用起来了。

他们到底用了多少卡?

模拟8192卡的训练,用了32台机器,

16台放观测卡,16台放助手卡,

不到目标卡数的3%。

这也是本文标题里“32台机器”的由来。

聊到这儿,我顺嘴问了一句,

有了这个模拟器,

训练团队是不是可以少做很多实验?

作者说,不能这么说。

实验一点都不少做。

训练团队要做很多实验,

才有信心把一个优化推上线。

最理想的做法是,拿万卡来测,

生产什么样就测什么样,

把生产任务停一下,跑一把,

如果比基线快了1%,那再上这个策略。

可一万张卡就这么多,生产任务停不起。

预训练团队不是中东土豪。

手里卡数也不富裕,

没办法,地主家也没有余粮。

数值测试,算子优化,数据链路,

全都挤在这一百张卡上,

还得拆着分着用,切来切去,所剩无几。

这时候,CrystalLLM的价值就出来了。

它让实验变便宜了。

我认为,“CrystalLLM更像做大卖时候,

拿主意的大掌柜事先用计算器按几下,

对这个生意值不值得做一个考量。

就是这么一个工具。

图片

我和论文作者有一番对话。

1.问:CrystalLLM是在训练引擎哪一层下手的?

答:Megatron,pytorch,NCCL它都动了,

改动幅度上,改动幅度Megatron<Pytorch<NCCL。

2.问:CrystalLLM到底对框架改了什么?

答:抓图要在框架层也做一些插桩,所以只改c10d和NCCL是不够的。Megatron的训练启动脚本只需要改5行代码。整个Megatron框架大概改动300行代码。

3问:CrystalLLM能用来研究模型收敛和数值问题吗?

答:不适合,这是它的一个局限。理论上可以让数值也完全正确,把真实训练里所有的中间计算结果都存下来,回放的时候让虚拟rank发出这些真实数据。但这样一来,仿真会非常慢,存这些中间结果也要用掉海量硬盘。所以实际使用时,激活值,梯度这类数据,我们都用合理范围内的数值代替。它们能保证程序正常跑,时间和显存测得准,但不是训练中真实的值,所以,拿来研究收敛和数值问题是不行的。

4.问:你说的"每一段都仿真到了",是什么意思?

答:先说时长。流水线切四段,一步结束所有段都对齐,所以不管看第一段还是第四段,时长都一样,看哪个都行。显存不一样,四段各不相同。所以抓图的时候,观测卡(Sandbox)的位置是移动的,先观测第一段,再二段、三段、四段。这个策略下每一段的显存,都实际跑过一遍。四段都没OOM,基本就认为这个配置不太会OOM。这就是"都观测到了"。

5.问:模拟和仿真,到底有什么区别?

答:逻辑上是两种思路。我们这种叫仿真,Emulation;另一种叫模拟,Simulation。模拟是离线建模:先把训练任务打碎,看你能抽象到哪一层,

细的到算子,粗的按层,也有只关心网络通信的,每一块用硬件离线测一遍,建一个小模型,像乐高积木一样存进数据库。来了新任务,就拆成积木,从库里取出来拼起来,算出一个预测值。网络那部分更偏公式,按带宽算。总之都是算出来的,不会真跑。仿真是把整套软件栈、硬件栈原样保留,代码真的在上面跑一遍,运行时细节全部保留。

6.问:为什么仿真就准,模拟就不准?

答:栈里有些部分是闭源的,比如CUDA底层,真正跑在GPU上的东西是个黑盒,你不知道它里面怎么运行;而且它的行为和输入有关,输入的任务不一样,表现就不一样。理论上,你不可能把它精确地建成模型。但我们不care。硬件在我们手里,软件是同一套,输入也是同一套,跑出来的结果就是准的。最核心的区别就在这里。

7.问:仿真环境最后吐出来的是什么?

凭什么说它和生产一样?

答:"吐出来的"是性能表现,是这个任务跑起来的两个读数,一步多少秒,显存峰值多少。因为喂的就是生产任务本身,同一份训练代码,同一套配置,训练数据也可以用同一份。输入完全一样,GPU上的行为就完全一样,挑同样的kernel,占同样的显存,花同样的时间。所以,这两个读数,和生产里的一样。

图片
《AI+医疗》

1.独家深度丨夸克健康大模型调研报告

2.熬夜三年肝损害,AI博主也靠AI学“续命”医学知识

3.为什么AI能预警心脏主动脉“血管炸弹”?

4.对话作者:全球首个开源手术视频大模型SurgMotion

5.阿里达摩院:做胸腹部CT,顺便筛了肠癌|独家对话和睦家医院朱刚主任

6.我用剧烈腹痛两周,读懂了阿里达摩院《科学》论文RADAR

7.阿里达摩院又又又发布食管癌AI模型

《AI产品和技术模块》

1.Kimi Agent产品很厉害,然后呢?

2.搞懂“记忆”必看|吃透Engram

3.实属踩踏了?深水炸弹Seedance掩盖Seed2.0

4.Harness内心OS:大模型只管想,剩下烂摊子全我的

5."纠缠软件"是什么?Agent?还是Harness?

6.排行榜是别人的,手感是自己的:Kimi K2.6体感报告

7.Agent才不会"赢家通吃",证据来了……

8.央企OPC的玩法和困境:让Agent能跑,还要改造费?

9.Agent大战,赢家暗自在哪下功夫?

10.我建议DeepSeek搞个『峰谷差千倍』大促销

《具身智能》

1.“26年具身智能,根本做不过来”:含陶大程教授独家

2.漫画:大模型“强控”具身智能机器人?

《AI算力》
1.10万卡争端,英伟达NVL72超节点挑起

2.英伟达:照抄者死,阿里华为:AI集群狂飙『全解耦』

3.阿里华为『血战』英伟达AI超节点

4.抢在英伟达护城河合拢前,硅光的冲刺与最后窗口

5.OCP现场 l 北美AI巨头罕见共识ESUN,利益握手

6.为什么有些『闪断的锅』,硅光不背?

7.为了Token,阿里云竟然出了一个TPN?

8.杀死Token成本:靠的不仅是更强的芯片

9.独家深度 | 光互连战争:CPO还没有赢,NPO怎么继续活?

10.解码阿里云灵骏真武M890超节点:算力竞争杀入下半场

文章标签算力AI产品

资讯来源:由AI资讯编辑整理自互联网公开内容,版权归原作者所有,未经许可,不得转载。