近日，Anthropic CEO达里奥·阿莫迪呼吁行业放缓提升前沿模型能力的速度，为安全研究和风险治理争取更多时间。
令业界惊讶的是，其竞争对手OpenAI CEO奥特曼和马斯克迅速表态赞同，被外界视为美国AI巨头罕见同声呼吁“踩刹车”。
但随后，英伟达CEO黄仁勋与美国总统特朗普随后公开驳斥“AI末日论”，称AI接管世界是“骗局”，强调不应让AI产业减速。
三大AI巨头“联手”背后，是担心AI失控风险，还是另有“私心”？AI扩张是否真的会减速？有专家分析，全面放缓前沿AI发展不具备现实可操作性。
美三大AI巨头罕见联手，呼吁AI减速
近日，在多起AI Agent（智能体）越界行为引发关注后，Anthropic前员工公开发出关于“AI末日风险”的警告。
Anthropic CEO达里奥·阿莫迪。图片来源：视觉中国
随后，Anthropic CEO达里奥·阿莫迪发表一篇千字长文，呼吁行业放缓提升前沿模型能力的速度，为安全研究和风险治理争取更多时间。随着AI能力快速提升，阿莫迪担心，在未来6至12个月内，这类智能体群体可能具备更强的自主行动能力，甚至可能“控制整个互联网”，并造成数千亿美元的损失。
令业界惊讶的是，作为Anthropic的长期竞争对手，另两家美国顶尖AI公司的领导者迅速响应了这一倡议。OpenAI CEO山姆·奥特曼和SpaceX的CEO马斯克均在社交媒体上表示，他们赞同阿莫迪的观点。
OpenAI CEO山姆·奥特曼。图片来源：视觉中国
9月12日，奥特曼表示认同阿莫迪提出的“放缓前沿模型发展”，并称OpenAI也将让外部评估机构参与相关工作。出于安全因素考虑，奥特曼同日还确认，OpenAI不会在2026年IPO。
马斯克当天也在X平台发帖表态，“达里奥说得对”。
马斯克。图片来源：视觉中国
其他头部科技企业高管如Google DeepMind首席执行官德米斯·哈萨比斯也对这一方向表达认同。
黄仁勋驳斥“AI末日论”，特朗普力挺
当地时间9月14日，AI芯片龙头英伟达CEO黄仁勋在洛杉矶举行的All-in Summit峰会上与主持人讨论时，发生了戏剧化的一幕：他接到美国总统特朗普的来电，并当场打开了免提。
当黄仁勋感谢特朗普参与反驳AI恐慌时，特朗普表示，数据中心是“未来20到25年的石油”：“机器人不会接管一切，AI不会接管整个世界，这一切都是骗局。”
黄仁勋则表示：“我们会确保美国在AI竞赛中让所有人都受益，每个行业、每家公司、每个州，以及每一个人。”黄仁勋强调，“你是对的，我们不会让（AI减速）发生。”
黄仁勋事后单独回应了近日引发广泛讨论的AI安全担忧。他否定了“AI可能毁灭世界”的预测，称这类观点“没有科学依据”。他表示，如果AI公司认为自身的AI开发已经“失控”，那么这些公司应该暂停相关工作，或者放慢发展节奏。
此前，黄仁勋也曾多次驳斥“AI末日论”。上一周，黄仁勋就表示，围绕AI安全的担忧可能为网络安全行业创造更多商业机会：“还有什么比制造一个问题更能创造需求的呢？谁不希望自己的市场对产品陷入歇斯底里，并排起长队购买？”
美国总统特朗普（右）和黄仁勋（左）。图片来源：视觉中国
三巨头“联手”背后另有“私心”？
美国三大AI巨头“联手”背后，真的是因为担心AI失控风险，还是另有“私心”？
如果单从AI安全视角，尚不足以理解Anthropic呼吁行业放缓前沿模型迭代一事。但考虑到该公司处于业务快速增长阶段，同时筹备IPO的这一背景，减速主张或许有一些商业层面的考虑。
8月18日，媒体专栏作者Karen Kwok指出，如果Anthropic放慢增长速度，可能带来盈利方面的好处。随着潜在IPO临近，提高成本效率也更加重要。
而从经营上看，Anthropic本身也面临着不断膨胀的算力成本带来的成本压力。9月2日，有报道称，Anthropic已与英伟达支持的云服务提供商Lambda签署了一项价值350亿美元的云计算协议，与英国AI基建公司Nscale达成约450亿美元算力租用协议，并与SpaceX达成每月约12.5亿美元的计算资源协议，同时组建自研芯片团队。而据媒体此前援引知情人士称，Anthropic截至7月底的年化营收已超过650亿美元，较5月底的470亿美元进一步增长。
在这样的背景下，若全行业共同放慢模型能力扩张速度，在一定程度上可以帮助Anthropic降低短期算力投入压力。
这也形成了一个微妙的行业博弈。如果只有Anthropic一家放慢速度，它可能面临竞争对手继续扩张带来的市场份额流失压力，而如果OpenAI、Google等头部公司同时降低前沿模型开发速度，单个公司的竞争劣势就会明显减弱。
当然，集体“减速”也并非全然有利。9月14日，有媒体指出，如果前沿模型开发速度放慢，AI资本可能从继续训练更大模型转向AI应用和部署，这反而可能给第二梯队竞争者带来追赶机会。
AI扩张是否真的会减速？
虽然巨头们罕见地表达了“放缓”的共识，但AI竞赛是否真的会开始减速，仍是一个未知数。
目前看来，三家AI公司尚未提出任何具体的技术能力限制，也没有公布暂停模型训练、推迟下一代模型发布等明确计划。
华尔街投行认为，按照三家AI公司说法，是要放缓前沿模型的研发速度，但并不等于停止模型训练，也不是AI需求或算力需求的减速。
不过，市场担忧已经体现。截至14日收盘，存储概念股大跌，SK海力士跌超7%，闪迪跌近5%。费城半导体指数跌超5%，ARM跌超9%，拉姆研究跌超8%，迈威尔科技、阿斯麦、应用材料跌超7%，英特尔跌超5%，博通跌超4%，英伟达跌3.36%。
人工智能投资人郭涛表示，全面放缓前沿AI发展不具备现实可操作性。他认为，更现实的路径是对最高风险的前沿模型实施控速，严格安全准入，放开AI应用与中低端模型创新，实现技术迭代与风险管控之间的平衡。
快思慢想研究院院长、特邀评论员指出，三家AI巨头呼吁“放缓”，短期内未必意味着AI资本开支和产业扩张真正减速。若相关措施最终落地为第三方安全评估和部署权限管理，AI安全审计、智能体行为监控等环节可能迎来新的需求，而更高的合规成本也可能进一步提高行业准入门槛。
值得注意的是，在呼吁“放缓”的同时，前沿AI公司的商业扩张仍在加速。
一边是AI实验室开始公开讨论“踩刹车”，另一边，模型能力、商业化和资本市场的竞争仍在继续。AI行业对于安全风险的态度正在发生变化，但距离AI扩张真正减速，仍然存在一道难以跨越的现实鸿沟：当所有参与者都担心竞争对手抢跑时，谁愿意成为第一个真正松开油门的人。
综合来源：澎湃新闻、财联社、每日经济新闻、上观新闻等
上游新闻综合 编辑 杨雁琳
