
最近,Anthropic 披露了一项新技术进展,其旗下模型 Claude Mythos 仅仅使用 3 天时间,几乎无需人工干预就写完了将近 100% 的底层内核代码。之前几十名工程师耗时 6 到 12 个月才能完成的 AMD 芯片适配时间周期,现在被压缩至只有 72 小时,这件事有可能直接影响了英伟达深厚的 CUDA 软件护城河。
在科技圈里,离开英伟达向来都很难,背后原因在于每更换一款新芯片,工程师们就得重新翻译一遍底层内核代码。这项工作一般一干就是大半年。Anthropic 让 Claude Mythos 在三天之内把大模型搬上了 AMD 的最新算力卡,让原本足以拖垮精锐技术研发团队的跨平台难题,一下子变成了一个周末的工作量。
三天究竟发生了什么?
此次技术突破的细节,最初出现在 Anthropic 向 IPO 投资者展示的路演资料之中。该公司联合创始人兼首席计算官汤姆·布朗,亲自对外界介绍了这项测试结果。他们调用了 Claude Mythos 预览版模型,针对 AMD 最新发布的 MI355X 芯片进行了软件底层适配。
图 | AMD Instinct™ MI355X GPU(来源:AMD)
芯片想要跑通 AI 大模型,必须得依靠底层内核代码来调度硬件资源,从而指挥数据在处理器里高效流动。之前这项工作需要人类程序员对照硬件手册,一行行地敲出复杂的指令集,过程枯燥且非常容易出错。这次 Claude Mythos 直接接管了整个流程,在基本没有人类插手的情况下,自主移植并编写了接近 100% 的内核代码。
许多人担心自动化生成的程序跑得慢,实际测试数据则打消了这种疑虑。根据公开的基准测试记录来看,移植之后的模型在 AMD 硬件上运行流畅,响应延迟和英伟达高度优化的方案相比,差距大约保持在 8% 到 12% 之间。这样的性能表现已经完全达到了商业生产环境的要求,并非一个停留在实验室里的试验。
在技术验证通过之后,真金白银的商业合作迅速开始落地。Anthropic 今年首次大规模引入了 AMD 显卡,双方还签署了一份算力供应协议,总规模最高达到 2 吉瓦。这意味着未来将会有海量的大模型推理任务,直接运行在 AMD 的芯片集群之上。
为什么英伟达的护城河难以撼动?
那么,这次突破的分量到底如何?我们得先回到计算芯片的底层运作原理。芯片其实是一块刻满微小电路的硅片,它本身是听不懂人类语言的,也无法看懂高级编程代码。软件想要指挥硬件干活的话,中间必须经过一层精密的翻译以及调度系统,英伟达的 CUDA 扮演的正是这一角色。
早在 2006 年的时候,英伟达就推出了 CUDA 这一平台,允许开发者们直接调用显卡里的并行计算单元。经过长达二十年之久的持续投入,CUDA 已从一个简单的编程工具,演变成为一套庞大且精密的软件生态系统。它的内部集成了数以百计经过极限优化的算子库,覆盖了图形渲染、科学计算以及 AI 训练的方方面面。
对于全世界的开发者而言,使用 CUDA 的顺手程度就好比是各种现成的工具摆在手边,调用起来方便又高效。大家早已习惯了这套开发语言,大学教材也是围绕它编写,开源社区的代码亦是默认基于它运行。久而久之以后,全球数百万开发者都聚集在这个生态里面,形成了非常强的用户粘性。
假设此时有另一家芯片公司造出了性能不错的硬件,那么摆在客户面前的却是一座难以逾越的高山。鉴于芯片内部电路设计不同,英伟达的软件无法直接运行在竞争对手的硬件上面。这时企业要想更换供应商,就必须组建一支精通底层硬件架构的技术团队,把原本运行良好的程序全部推倒重来一遍。
这支团队往往需要耗费半年甚至一年的时间,去重写成千上万行的底层内核代码,同时还要反复调试各种莫名其妙的系统崩溃。对于争分夺秒的科技公司 CEO 来说,产品晚发布半年就意味着丢失了整个市场。当算清楚这笔时间账之后,绝大多数企业只能果断放弃更换硬件的念头,继续排队购买英伟达的芯片。
买方反击:可互换算力池的博弈
面对昂贵的硬件采购成本,大型 AI 公司其实一直在寻找破局的办法。他们认为既然大模型的本质是矩阵乘法与数据搬运,那么只要能够把底层翻译工作自动化,任何品牌的芯片都能够成为算力底座。Anthropic 正是沿着这样一个思路,在公司创业早期就制定了多芯片并行的战略。
Anthropic 公司首席计算官汤姆·布朗在上述 IPO 路演中提到,他们早年做了一个非传统的决定,那就是拒绝将所有业务绑定在单一的硬件平台上。当前,Anthropic 的模型同时运行在英伟达显卡、谷歌 TPU 和亚马逊自研的 Trainium 芯片上。该公司的管理团队把这些五花八门的硬件整合起来,当成了一个统一、可互换的计算资源池来调度。
图 | Anthropic 公司首席计算官汤姆·布朗(来源:领英)
这种架构设计在之前需要非常高的维护成本,每次引入新硬件之后都得经历一个漫长的适配期。现在出现了 Claude Mythos 这样的自动化工具之后,软件移植的工程量削减了大约 95%,适配周期从一年缩短到只有三天时间。硬件切换的技术门槛被大幅地拉低,芯片采购从此变成了一道简单纯粹的商业算术题。
当软件不再是一个限制条件,AI 公司在采购硬件的时候就拥有了充足的底气。哪家芯片厂商的供货充足、价格合理、能耗表现出色,买方就可以在几天之内把计算任务全部迁移过去。这种灵活性极大地提升了买方市场的议价空间,迫使芯片巨头开始重新地审视自己的定价策略。
放眼整个美国硅谷来看,去单一化已经成为各大科技公司的共同行动。谷歌旗下的 TPU 芯片目前已经能够原生运行主流的 PyTorch 框架,Meta 这样的科技大厂也开始在生产环境中大规模使用 TPU。随着越来越多公司加入自研芯片以及跨平台部署的阵营,算力市场正从一家独大的局面走向百花齐放。
CUDA 壁垒真的消失了吗?
看到三天完成适配的消息之后,也许很多人觉得英伟达的软件优势已经彻底瓦解。但假如我们仔细核对技术资料中的每一个细节的话,就会得出一个更为严谨客观的结论。那就是 Claude Mythos 确实在软件壁垒上撕开了一道口子,不过距离彻底颠覆 CUDA 生态依然有很长的路要走。
首先需要注意 Anthropic 路演资料里的那些限定条件的存在。这次花费三天时间完成的适配任务,其实主要是针对单个模型在 AMD 芯片上实现可用性能的提示词处理,也就是 AI 模型推理阶段的预填充环节。推理过程好比拿着学过的知识解答考题,计算流程往往相对固定,优化难度也比较低。
AI 研发中最为考验硬件极限的环节,其实是动用数万张芯片进行长达数月的分布式大模型训练。在超大规模集群训练之中,成千上万张芯片需要同时交换海量的数据,任何一张卡出现了延迟都会拖慢整体进度。而英伟达依靠 NVLink 高速互联技术和 NCCL 集合通信库,在多卡协同领域依然保持着明显的领先优势。
同时,大模型自主地编写底层代码的能力,高度依赖于真人工程师积累的历史资料与硬件文档。当英伟达推出全新一代微架构芯片的时候,底层指令集以及内存结构都会发生深刻变化。在全新硬件上市的最初几个月时间里,依然需要顶尖人类技术专家进行手工调优,才能去榨干芯片的每一分性能。
就算存在这些客观限制,AI 要想学会自己编写底层代码,依然是计算机发展史上的一个重要节点。它证明了软件生态的壁垒并非那么的坚不可摧,并表明了自动化工具正在重塑芯片行业的竞争格局,未来的算力市场无疑也将变得更加开放多元。
参考资料:
https://www.tomshardware.com/tech-industry/artificial-intelligence/anthropic-says-claude-mythos-slashed-software-work-to-onboard-amd-gpus-from-up-to-12-months-to-around-three-days-writing-almost-100-percent-of-kernels-autonomously-chips-away-at-nvidias-cuda-moat
https://emergent.sh/news/claude-running-amd-chips-3-days-via-mythos#:~:text=The%20company%20has%20since%20made%20the%20tooling,use%20cases.%20*%20Hardware%20Flexibility%20for%20Enterprises.
https://www.linkedin.com/in/nottombrown
https://www.amd.com/ja/products/accelerators/instinct/mi350/mi355x.html
运营/排版:何晨龙
注:封面/首图由 AI 辅助生成







