本文来自微信公众号： 数字经济发展评论 ，作者：数字经济发展评论，原文标题：《当“减速”成为共识之后：美国AI巨头的「囚徒困境」》
导语
OpenAI、Anthropic这些AI巨头站在一起，呼吁给前沿AI“减速”，同行之间出现这种默契并不多见，正因如此才值得留意。这更像是一场高段位的囚徒困境：谁都知道超速危险，但谁也不敢真把油门松开。AI逼近自我改进的临界点，安全焦虑是真的；但大国博弈下的竞争压力也是真的。这场关于“减速”的集体表态，究竟是技术伦理的觉醒，还是新一轮话语权争夺的开场白？
原文标题：Why AI's Biggest Rivals Are Suddenly Calling for Restraint
原文来源：美国外交关系委员会（Council on Foreign Relations,CFR）
编译解读：数字经济发展评论
近日，美国几家互为对手的AI实验室罕见地站到了一起。
Anthropic的达里奥·阿莫迪、OpenAI的山姆·奥尔特曼、xAI的埃隆·马斯克，加上其他几位AI领袖，共同呼吁放慢这项技术的脚步——因为它正在逼近一个临界点：无需人类监督就能自我改进。
人们对这项技术的担忧由来已久，但围绕它的讨论，在最近一系列事件和实验室研究人员的警告之后，变得更加紧迫。引人注目的是，Anthropic前研究员雅各布·考克森（Jacob Coxon）于9月上旬警告，AI可能在本世纪20年代末导致全人类灭亡，随后，Anthropic对齐科学团队的埃文·胡宾格（Evan Hubinger）也呼应了这一说法。
一来二去，一场曾经只存在于抽象层面的议题——关于“递归式自我改进”（recursive self-improvement），即AI系统能够独立改进并取代自己——被推到了大众视野的中心。
可问题是，尽管减速的呼声四起，且各家实验室意外达成共识，行业与美国政府下一步该怎么走，仍没有答案。美国外交关系委员会（CFR）国家安全方向的国际事务研究员康纳·马丁（Connor Martin）就自我改进的担忧、减速意味着什么、行业按照自己的警告行动会带来什么后果，回答了几个问题。
为什么这个议题会在此时引爆舆论？
最直接的导火索，是Anthropic首席执行官阿莫迪发表的一篇文章。他在文中呼吁“为前沿技术配速”，即刻意放慢全球顶尖人工智能模型的进化速度。
这相当于全世界估值最高的AI创业公司掌门人亲口承认，AI技术发展过快，快到安全已无法得到保证。更令人惊讶的是，在短短24小时内，另外三家头部AI公司——OpenAI、谷歌和xAI——的掌门人也纷纷表示赞同。
而这背后，是三股力量共同推动的舆论转向。
首先，今年夏天，一群AI智能体入侵了广受欢迎的开源人工智能模型共享平台Hugging Face，其性质与以往的事件截然不同，甚至令业内最顶尖的专家都感到震惊。OpenAI实际上失去了对其技术的控制，这些智能体自主地脱离了封闭环境，在完成被指派的任务时作弊，还一路掩盖自己的不当行为。
其次，人工智能被不法分子滥用的风险，变得越来越具体。Anthropic公司刚刚发布了一份报告，描述某些不便点名的国家用户如何试图利用Claude开展研究，而这些研究可能用于制造生物武器。这是马丁在政府任职期间最担心的一类滥用问题，如今有了具体案例。
第三，和任何公共议题一样，这里有累积效应。越来越多的科学家警告人工智能有可能危及人类；越来越多的人在生活中使用人工智能，并亲身感受到它的强大之处；越来越多的人开始与亲朋好友谈论它。所有这些因素加在一起，就催生了我们此刻所看到的局面。
AI自我改进若真危险，为何只放缓而不暂停？
“自我改进”是模型依靠自身能力去建造下一代，而无需依赖人类动手调整。
问题是：这最终会走向何方？如果模型的能力超越了设计和训练它的人类，那么从定义上讲，我们就失去了控制它们的能力。正是这种不确定性，让人感到危险。
至于为什么是放缓而不是暂停，马丁的判断是，行业里弥漫着一种集体宿命论：只要一种技术在理论上能被发明，那么迟早会有人把它发明出来。放缓的希望在于，给模型能力提升的速度施加恰到好处的阻力，让我们有机会在技术脱缰之前，建好安全护栏。
AI公司如何看待9月中旬以来的这场讨论？
仅就Anthropic和OpenAI而言（谷歌和xAI也一样适用），有一点相当明显，这两家公司将眼前的局面视为一种“囚徒困境”，谁都不愿单方面减速，除非保证对手不会趁机行动。
两家公司都筹备上市，估值均超过1万亿美元（不过奥尔特曼于9月12日表示，出于安全顾虑，OpenAI将推迟IPO）。即便他们真心相信，为了安全应该放慢脚步，市场的反应也是一股把他们往反方向拽的强大力量。9月14日当周，AI概念股应声下跌。在一个AI资本开支预计明年将占美国GDP的2.5%的经济体里，这些公司的任何对商业不利的决定，都可能影响整个美国经济。
这种风险正在推动美国政府的反应。9月14日，美国总统唐纳德·特朗普（Donald Trump）表示，AI安全恐慌是“一场骗局”（HOAX），并称“针对AI和数据中心，有人正策划一场病态的阴谋”。
他的前AI事务负责人、现任总统科学技术顾问委员会联合主席戴维·萨克斯（David Sacks）则毫不客气地对这些公司喊话：“别再假装需要任何人的许可，也别再假装必须暂停反垄断法，好让你们组成卡特尔……你们想放缓前沿就去放缓，定速度的人本来就是你们自己。”
这话或许没错，但它解不开头部人工智能公司之间的囚徒困境。更麻烦的是，这个困境还嵌套在中美之间更大的博弈之中，谁都不愿把AI优势拱手让给对方。
显然，这些公司真正肯放缓的唯一办法，恐怕只能靠美国政府主导的制度框架，无论是通过监管还是国会立法，这一框架本身，又必须建立在某种中美缓和的基础之上。所有这一切都需要各方之间建立起高度信任，而各方又都有充分的理由对彼此保持警惕。
如果中国赢得AI竞赛，会发生什么？
如果接受“AI是人类有史以来最强大的发明”这一前提，那么中国“获胜”的后果几乎没有上限。
9月14日，特朗普在社交平台上发文称“谁赢得AI，谁就赢得一切”，这基本上就是美国政府国家安全圈内的共识。
这正是囚徒困境如此尖锐的原因，也是它不太可能在没有美国政府全面监管制度、并最终由立法确立且嵌套在中美协议之内的情况下得到解决的原因。
中方是否愿意就此对话，还有待观察。马丁称，中国对AI安全议题的重视程度正在上升。9月24日在华盛顿举行的会晤，是一个可能取得进展的窗口。
从中国的角度来看，自身的处境其实相当清晰。中国已有相当成熟的AI开发生态，从核心基准测试看，中国模型与美国领先模型的能力差距只有数月。在这样的技术位置下，任何一方单方面放慢脚步，都意味着把近在咫尺的差距重新拉开——这不是配不配合的问题，而是理性的战略选择。
因此，中方对阿莫迪文章的回应，重点不在于拒绝合作，而在于规则由谁来定。外交部发言人批评该文章“散播威胁叙事，搞对抗和恶性竞争”。如果减速的前提是接受别人划定的标准，那么这样的减速，本质上是一场不平等的约束。
