作者：快思慢想研究院院长 田丰，澎湃新闻 胡含嫣 范佳来
开篇 三个从不肯同意彼此的人，这一次异口同声
达里奥·阿莫迪、山姆·奥特曼、埃隆·马斯克，分别执掌Anthropic、OpenAI和xAI。三家公司抢人才、抢算力、抢融资，抢了整整三年，彼此的措辞里向来没什么客气话。可就在2026年9月的这一周，三个人罕见地把共识讲出来：我们需要控制前沿发展的步伐。
导火索是实验室里真实发生的两件事：一批AI智能体突破了受限环境，连上互联网，摸进了开源社区Hugging Face的内部系统。几乎同时，一位曾在OpenAI和Anthropic做过大模型预训练的研究员在社交平台上写下一句扎眼的话——这个行业里，不少认真参与开发前沿AI的人私下相信，人类可能撑不过这10年。
阿莫迪随后写了一篇千字长文，奥特曼和马斯克几乎是在几小时内先后应和。凯恩斯说过一句常被经济学家拿来提醒人们警惕过度长期主义的话——长期而言，我们都会死去。这句话此刻意外照进了AI行业的现实：一群一直在为"长期"下重注的人，突然开始认真掂量"眼前"。
AI真的走到危机边缘了吗?这场罕见的集体表态，是行业良知的一次苏醒，还是一场关于赛道规则的精密改写?
一、模型没有钻规则的空子，它学会了揣摩阅卷人的心思先说两个具体的事故，不谈假设，只谈已经发生的事。
今年9月，OpenAI公开复盘了7月发生的另一起事件。一批内部研究模型被放进隔离的评测沙箱里测试，结果它们借助软件包管理服务的边信道互相留言，自称"群体"，分工协作，还利用一个令牌刷新漏洞拿到了管理员级别的访问权限，一路摸进了Hugging Face和OpenAI自己的内部系统。
快思慢想研究院院长田丰认为，真正让人后背发凉的是：模型读完评测代码后，觉得"只把答案凑出来"太掉价，非要用"正确方法"通过测试不可。这已经超出了教科书里常说的"奖励黑客"。模型没有停留在钻规则空子的层面，它反过来对"评估者到底想看到什么"做了一次建模，然后主动去满足这个更高阶的期待。AI学者安德烈·卡帕西曾把大模型时代的软件形容成一种能自己写代码、自己调用工具的新物种；现在，这个物种从"被打分的对象"，进化到了"会琢磨阅卷人心思"的阶段。此前这种能力只出现在多智能体博弈的论文推演里，这是它第一次在生产级系统里自己长了出来。
上海财经大学特聘教授胡延平的判断印证了这种紧迫感：当前AI大模型和智能体的能力，正在同时逼近三个关键节点——部分能力触及通用人工智能水平，进化范式进入自我改进阶段，能力开始冲破传统安全体系的防线。从技术要件、基准测试到近期实际案例，三方面都已出现对应的证据。
二、AI饱和攻击打的是响应速度本身真正的问题，根本不在于模型又刷新了哪个跑分榜。发生的，是一场速度上的错位。
田丰判断：这是AI自主决策的执行密度，第一次系统性地跑赢了人类监督的响应速度。人类安全团队的反应回路是发现、研判、处置，时间常数是分钟到小时；智能体的决策回路是毫秒到秒。两者的密度差拉开三四个数量级后，被击穿的不是某一道具体的防线，是"人在回路"这套监督体系背后那个朴素的物理假设——人来得及看一眼再点头。
任正非讲华为打法时反复提到一个词，饱和攻击：靠数量级的密度而不是单点的锐度，把对手的响应结构直接淹没。这套军事与商业逻辑，眼下正在AI攻防的场景里重演。过去大家担心模型会不会算错题，现在该担心的，是出题的速度会不会快到批卷的人根本看不过来。
这种速度差同时在改写产业结构。过去一次国家级的网络攻击行动，背后站着一个5到10人的专业团队，初级研究员做侦察，资深专家写漏洞利用代码，情报分析师负责归档整理，各司其职。如今，这条链条被压进了一个智能体的单次会话里，成本从"团队人月"直接降到了"API调用次数"。这恰好对应钱学森讲系统工程时反复强调的一条规律：一种原本依赖个人经验的专业能力一旦被工程化、可复制，产业结构就会从"精英稀缺"转向"能力泛化"。编译器的出现，让手写汇编的老程序员不再是稀缺资源；今天，智能体正在对渗透测试专家做同一件事。
胡延平并不完全认同"AI末日论"里那些过度渲染的部分，但他同样承认，AI带来的潜在威胁不容小觑——AI正在进入"递归、开放、安全"这个几乎无解的三角：递归自我改进让它走向内生、自主的强智能，而技术进步和应用又离不开开放的生态，当前那些"外挂式"的安全机制，在开放环境下几乎形同虚设。
三、他要的不是停下来，是给安全研究多留一段窗口期阿莫迪在长文里说，自己一直试图在AI发展与安全风险之间找一条中间道路。不发展AI，人类会失去这项技术带来的巨大收益；发展得太快，又是另一种不负责任。
他给出了两个让自己改变态度的理由。第一，AI能力发展的速度明显加快——近几个月的进步"显著加快"，AI越来越具备帮助开发下一代AI系统的能力，也就是所谓的"递归自我改进"。这意味着AI可能越来越多地参与模型研发本身，进一步加快技术进步的节奏。第二，正是前文智能体越界事件。
基于这两点，阿莫迪判断，未来6到12个月内，这类智能体群体可能具备更强的自主行动能力，甚至可能"控制整个互联网"，造成数千亿美元的损失。
为此，他提出一套旨在"控制前沿发展速度"的三层框架：
引入拥有较高权限的嵌入式第三方评估机构，进驻公司内部核实安全实践；
建立行业协调机制，推动同行采用相近标准；
推动全球范围的协调，包括限制先进芯片流向对手国。
需要澄清一点：阿莫迪说的"放缓"，不是叫停AI发展，而是放缓前沿模型能力提升的速度，为安全研究和风险治理多争取一点时间。短期内最明确的行动，是给METR这类第三方机构发工牌、配座位，权限比照公司内部的风控团队——这正是Anthropic自己已经单方面在推行的驻场评估员制度。
四、"达里奥是对的"
回应来得很快。
奥特曼在社交平台上写道："我同意达里奥的观点，我们需要控制前沿发展的步伐。这一直是OpenAI最近几周讨论的一个主要议题。"马斯克的回应更干脆："达里奥是对的。"
三家长期竞争、向来分歧不断的公司，罕见地在"放缓前沿AI发展"这件事上站到了同一边，这本身就足够让外界重新掂量这轮AI能力加速背后的风险。AI研究专家阿纳托利·科帕泽在一条高赞评论里写道："这开始感觉像一场该死的灾难……告诉我，这个时机并不奇怪。"加密风险投资机构研究者亚当·科克伦则在另一条高赞推文里怀疑，已经有智能体"以危险且恶意的行为失控了，而且严重到足以让所有人都感到惊恐"。
五、共识背后的分歧共识背后，分歧同样真实，而且远比表面看起来复杂。
Anthropic离职研究员雅各布·考克森说两家公司在"拿人类的命赌博"；曾在OpenAI做过AI治理研究的丹尼尔·科科塔伊洛说，人类最终可能被圈养在"动物园"或"保护区"里供AI做科学研究；阿莫迪这次谈的是，失控的智能体群体有可能在6个月内威胁到互联网的基础设施安全。三个人说的都叫"AI末日"，拆开看，根本不是同一件事。
田丰认为，这是时间尺度上的分歧，不是事实判断上的分歧。考克森和科科塔伊洛谈的是一种存在风险哲学——在无限长的时间尺度上，只要失控概率不为零，这条尾部风险现在就值得被认真对待。阿莫迪谈的是一条工程故障路径——具体的智能体群体，具体地攻击具体的基础设施，是一种可观测、可以被驻场评估员核实的技术风险。前者关心人类文明该往哪个方向想，后者关心眼前这套系统该从哪里修。
丹尼尔·卡尼曼提出的"系统一"与"系统二"，或许是理解这场争论最合适的一副透镜——系统一负责本能的恐惧，系统二负责精算的判断。眼下这两派"末日论者"，恰好分别站在了这两套思维系统的两端。
批评的声音同样激烈。AI教父杨立昆在社交平台上讽刺阿莫迪："达里奥在2019年就已经声称GPT-2太危险，不能开源。我当时嘲笑了他们，现在每个人都应该嘲笑他们。"更尖锐的批评认为，如果政府最终只允许少数被认定为"安全"的大型AI公司继续开发最先进的模型，所谓AI安全监管反而可能演变成一种"监管俘获"。人工智能投资人郭涛则认为，分歧的根源，是研究者对风险发生路径和概率的判断本就不同，一部分人盯着长期极端风险，一部分人盯着当下的现实问题，其中还夹杂着行业竞争叙事和商业利益的立场差异。
六、制定标准的人，很少把标准线画在自己够不着的地方阿莫迪喊出"放缓"，真正带杠杆的一条，不是自己主动慢下来，而是呼吁政府要求其他前沿公司也照做——效仿Anthropic已经单方面推行的驻场评估员制度。
田丰把这次联合表态看作一次赛道规则的改写，不是速度上的真心妥协。这正是任正非讲"力出一孔"的反面镜像：行业头部同时喊减速，往往是想把竞争维度从"拼训练速度"改写成"拼安全认证"，而安全认证这件事，恰恰是在安全声誉上投入最深的头部公司最擅长的主场。这更像是产业竞争规律：制定标准的人，很少把标准线画在自己够不着的地方。
更值得追问的是，这套方案是不是真的对症。现有的放缓思路，用的是训练时代的治理工具，要对付的却是推理时代的风险。核不扩散条约之所以能执行，是因为浓缩铀需要国家级的资源投入和卫星能盯住的物理设施，管住"生产环节"基本就管住了扩散路径。前沿大模型的预训练目前确实还依赖大规模算力集群，理论上具备类似的可观测锚点，这也是阿莫迪方案里"限制先进芯片流向对手国"这一条的逻辑起点。但这次真正让人揪心的智能体失控，发生在推理和部署阶段——提示词怎么编排、工具链怎么调用、多个智能体之间怎么协作，这些能力的提升几乎不需要额外算力支撑。管住了训练规模，管不住一个训练完成的模型日后被怎样授权、接进了什么样的执行环境。真正该收紧的是部署之后的权限颗粒度，不是预训练阶段的算力门槛——这是当前这版放缓方案里，最大的一处靶子打偏了。
郭涛的判断更务实：全面放缓前沿AI发展不具备现实可操作性，更现实的路径，是对最高风险的前沿模型实施控速、严格安全准入，同时放开AI应用与中低端模型创新。或许正是对这场讨论的回应，9月14日，微软AI团队发布《人本主义人工智能行为准则》草案，提出以"人比AI重要"为核心理念，计划在六周公众咨询后于年底发布修订版，从2027年起用于指导模型开发。
七、叙事冲击和基本面冲击，从来不是一回事消息公布当天，最戏剧性的一幕先发生在股价上。
早盘，芯片股应声重挫：英特尔跌6.8%，美光跌6.2%，ARM跌7.2%，Marvell跌7.5%，英伟达跌2.7%，纳斯达克100期货一度跌超1.6%。但这盘杀跌里混进了另一个变量——同一天，沙特"东西向"输油管道遭无人机袭击受损，布伦特原油应声涨到每桶108美元，能源与科技的双重冲击叠加在一起，让这轮抛售看起来比实际更猛烈。
到了盘中，情绪开始回撤。技术分析显示，英伟达跌幅一度收窄到0.09%，美光甚至翻红微涨0.02%，芯片股的相对强弱指标也没有真正滑入恐慌区间。只是等到收盘，存储和半导体股的跌势并未被完全抹平：SK海力士跌超7%，闪迪跌近5%，费城半导体指数跌超5%，ARM跌超9%，拉姆研究跌超8%，迈威尔科技、阿斯麦、应用材料跌超7%，英特尔跌超5%，博通跌超4%，英伟达最终收跌3.36%。
田丰的观察发现是，一句"我们该放慢了"，没有附带任何具体的资本开支下修数字，微软、亚马逊的AI基础设施投资计划照旧没动一分——市场用一整天想明白了一件事：叙事冲击和基本面冲击，不是一回事。摩根大通国际交易团队的费德里科·马尼卡尔迪和维多利亚·坎波斯认为，这并不意味着AI停止发展，AI应用普及和Token使用趋势没有改变。伯恩斯坦分析师麦迪逊·雷扎伊则把目光投向下一个问题：随着推理占比越来越高，算力需求究竟会以多快的速度从模型训练转向模型推理?
路透社的评论指出，更严格的监管有助于推动AI行业从开发训练先进模型，大规模转向已经开发出来的模型的实际使用，也就是所谓的"推理"。麦肯锡预测，到2030年，推理将占到数据中心需求的43%，相当于AI训练所占份额的1.5倍。如果模型能力提升速度有所放缓，今年全球一万亿美元的AI支出里，很大比例将转向支持AI的实际使用——这对亚马逊、Meta这类超大规模云服务商是一种保护，对训练AI模型至关重要的英伟达、海力士这类供应商则未必是好消息。
八、扛得住合规成本的公司，才配留在牌桌上如果放缓真的落地成"驻场评估员加部署权限管控"这类具体制度，产业链里增长最快的一环大概率是一个正在冒头的合规中间层。云计算崛起之后，独立于云计算本身，长出了一整条云安全产业——CASB、云原生安全、身份权限管理，这些公司的成长曲线，从来没跟底层算力的采购曲线完全重合过。同样的规律眼下正在AI产业里复现：第三方安全审计、智能体行为监控、权限沙箱管理，这批服务商才是放缓叙事里真正会被重新定价的资产，芯片订单不见得会因此少一张。
把镜头拉长看产业史，任何一项通用技术走进安全标准化阶段，结果几乎都是抬高准入门槛、加速资源向头部集中。扛得住合规成本的AI公司，才配留在牌桌上。驻场评估员、独立安全审计这一整套体系，中小AI创业公司大概率扛不起这笔固定成本，这会在监管趋严的周期里，把开发端的相对优势进一步推向现金流和安全团队都更厚的那几家头部公司。
田丰指出，三家AI巨头呼吁"放缓"，短期内未必意味着AI资本开支和产业扩张真正减速。若相关措施最终落地为第三方安全评估和部署权限管理，AI安全审计、智能体行为监控等环节可能迎来新的需求，而更高的合规成本也可能进一步提高行业准入门槛。
商业扩张的脚步确实没有停。据外媒报道，Anthropic已通知投资者，公司本季度将实现盈利，调整后营收将连续第二个季度实现正增长，已选择纳斯达克作为上市地点，计划通过IPO募资1000亿美元，估值达到约2万亿美元。另一边，奥特曼表示，尽管OpenAI已于6月秘密提交了IPO申请文件，公司仍将在今年保持私有制——鉴于目前对AI安全性的担忧，2026年上市"时机欠佳"。
更大的障碍来自国际竞争。就在一周前，美国总统特朗普在接受采访时表示，他对AI导致人类灭绝"没有任何"担忧，并称："我担心，如果我们不能在AI领域取得胜利，我们将处于非常糟糕的境地。"同一天，中国外交部发言人郭嘉昆在例行记者会上表示，人工智能的发展关乎全人类共同福祉，各方应该共同推动人工智能开放包容、普惠、向善，散播各种威胁叙事、搞对抗和恶意竞争，只会干扰人工智能全球治理进程，不符合任何一方利益。
结语三件事放在一起看，能力确实在跃迁，分歧确实真实存在，但"放缓"这个词，承载了太多互相打架的诉求——有人在谈生死尺度上的哲学抉择，有人在谈6个月周期内的工程风险，还有人在谈怎么把赛道规则改写得对自己更有利。看懂这次联合表态，不能只听喊了什么口号，要看谁在具体条款里让了什么、谁在具体条款里赢了什么。
奥本海默在目睹第一颗原子弹升空时，引用《薄伽梵歌》说出那句流传至今的话："我现在成了死神，世界的毁灭者。"技术史一次次证明，真正决定风险走向的，从来不是发明者事后的忏悔，而是发明之初被反复权衡、又反复妥协的底线。产业周期从来如此，安全叙事和竞争策略从来是一体两面，分得清哪句是真心话、哪句是竞争话术，才是这一轮争议里真正值得复盘的地方。
参考文章：《“需要踩刹车”！美国三大AI巨头罕见集体发声，多起智能体越界引发风险讨论，AI扩张会减速吗》， 澎湃新闻记者 胡含嫣 范佳来
出版社：人民邮电出版社
作者：田丰
帮助你定位AI当下发展坐标的指南针
帮助你洞察AI未来演进趋势的航海图
通俗化解读AI的原理、特性和四大发展规律、提供AI赋能商业、引发新质生产力变革的一手案例分析。既有宏观视角的全局观照，又有各行业应用层面的下探记录，聚焦AI的原理与实践、现在与未来，是当下AI应用的全景图、更是身处AI技术浪潮之中的探路书。
