本文来自微信公众号： 数字经济发展评论 ，作者：数字经济发展评论
导语
美国外交关系协会（CFR）专家康纳·马丁近日发文，分析特朗普政府与六家美国AI企业签署的《超级智能安全协议》。作者认为，协议虽提出内部安全控制、独立第三方评估和董事会监督等措施，但缺乏法律约束力、明确责任和违规惩罚，难以改变企业竞相提升模型能力的商业动机。AI企业面临巨额投入、激烈竞争和资本市场压力，即使认同安全优先，也未必愿意放慢技术迭代。作者提出，真正有效的AI安全治理，需要赋予独立评估者充分权限和保障，明确企业责任，并通过法律、监管或司法诉讼提高安全违规成本，使企业有动力将安全置于竞争优势之前。
原文标题：Trump's AI Safety Pact Is Toothless.But There Is a Path Forward.
原文来源：美国外交关系协会（Council on Foreign Relations,CFR）
编译解读：数字经济发展评论
白宫与六家顶尖AI公司签下的《超级智能协议》，列出了一整套看上去很周全的安全措施，独立评估、董事会层面的监督都在其中，却没有一条能强制企业真的照做。只要安全出事的代价还高不过抢跑的回报，一份靠“相信”和“应该”写成的承诺，就拦不住任何人。
作者康纳·马丁在CFIUS谈过无数份缓解协议，很清楚一份协议要真正管用，得同时满足有效、可核查、可监控、可执行这些条件。拿这四条去对照白宫这份协议，结果是一条都没达到。
一页纸的协议：通篇只有“相信”和“应该”
白宫这场会议达成的协议只有一页，自称“前沿责任的联合承诺”，实际没有强制任何公司做任何事。论性质，它更接近拜登政府2023年拿到的那批“自愿AI承诺”，细节还不如那些。它既没有法律效力，也不是行政命令，措辞处处回避作出承诺，只有一处例外，而这一处恰恰最说明问题。
特朗普称，这份协议将带有“极大的自我监管成分”，是“有道德约束力的”，还保证“我们会让它又好用又安全”。文件里写的却是：“我们相信每家公司都应该实施……四层控制与审计。”“相信”和“应该”，任何政府律师都会立刻从CFIUS协议里划掉，因为这两个词没法证伪，你根本指不出对方违约。合适的写法是“will”或“shall”，可“will”在全文只出现了一次，还在最后一节，说的是各公司“将定期开会以建立安全标准和最佳实践”。
特朗普口中的“极大自我监管”和“道德约束力”，听着庄重，背后却没有让违约付出代价的机制。CFIUS的缓解协议之所以不是空话，正因为每一份都写清了谁来担责、发现违规怎么整改、违不违约是可以被指认的。白宫这份的四层控制里没有一句是这个结构，更像一份希望企业去做的事的清单——最硬的“担责”两个字，恰恰被省掉了。
这唯一的“will”还牵出另一层意味。Anthropic首席执行官达里奥·阿莫迪（Dario Amodei）9月发表《为前沿定速》，把AI安全的讨论推了一把，其中一条建议是让美国政府豁免反垄断限制，好让各家实验室在安全上联手。
特朗普在这份协议上签字，是否等于认可这条建议并不清楚，但完全可能被读成这样一个信号：联邦反垄断执法会对此睁一只眼闭一只眼。而据称，OpenAI、Anthropic和谷歌深思维之间的磋商已经开始了。
企业为什么不减速？安全投入换不回回报
没有约束力还带来一个结果：企业的商业激励一点没变，继续测试那些能力可能有危险的模型，仍然是它们最划算的选择。
“为前沿定速”这场争论，其实是两个看着一样、实则不同的问题。第一，全球顶尖的AI公司该不该放慢最强模型的训练，好腾出时间把安全补上？第二，它们会放慢吗？就算这些公司的掌门人真心认为第一个问题的答案是“该”，第二个问题的答案仍然取决于一件事——违规的代价能不能高过抢跑的代价。这就把问题变成了一道资源怎么摆的生意题，而钱、人和算力都是有限的。
作者所做的，是把一场道德争论拆成了两道题。头一道问该不该，是价值判断；后一道问会不会，是商业判断。协议从头到尾都在回答第一道，好像只要说清了“该”，第二道就会自动跟上。
可第二道题的答案不在意愿里，而在账本里。只要投在安全上的下一美元赚不回投在能力上的下一美元，就没有哪家公司会主动转舵。这份协议既没有抬高违规的代价，也没有让安全变得划算，企业心里的那本账还是老样子。
这些公司一路做大，靠的都是把资源投进最强的模型——业界管这块叫“前沿”，让它更能干成消费者和企业想干的事。“定速”意味着把这笔资源挪到别处。一是运营层面的改进，比如数据卫生，也就是训练数据的清洗与规范；二是另一类训练和评估，目标不再是让模型更能干，而是让它的行为更合规、更对齐，让它的推理过程更透明、更可解释。
这些是昂贵且棘手的工程问题。只有当投在安全上的下一美元和投在能力上的下一美元回报相当时，把资源挪过去才谈得上有商业意义。路透社看到的一份Anthropic上市文件显示，该公司2025年营业亏损80亿美元，同期收入却增长超过1000%，达到46亿美元；除此之外，它还有大笔现金押在基础设施承诺上。OpenAI这边则预计，2026到2030年的自由现金流为负，缺口接近2800亿美元。
两家最前沿的实验室都在拿亏损换增长，安全投入对它们来说是一笔纯支出。这个时候要求它们“主动减速”，等于让一家一年亏80亿美元的公司再背上一笔看不到回报的开支，商业逻辑上根本不成立。
Anthropic和OpenAI两头受压。一边是超大规模云厂商，它们现在租用的算力握在对方手里，而这些云厂商自己也在研发相当强的模型；另一边是开放权重模型，免费，对大多数场景够用。对这两家来说，前沿能力就是它们唯一拿得出手的产品。
开放权重模型相当于悬在两家头顶的一个定价锚。既然免费模型对大多数场景已经够用，前沿能力的溢价就越来越难守住，这反过来逼着它们只能更快地推新模型。
其余签署方里，谷歌和Meta本就握有大量算力，也另有赚钱的业务线，xAI则因为有SpaceX合并兜底而多了缓冲。但这三家同样在AI基础设施上砸下巨额资本开支，而且都在和OpenAI、Anthropic抢同一批企业客户和用户的好感。既然OpenAI和Anthropic不打算停止前沿测试，它们有什么理由先停？
这是一个谁先停谁先掉队的囚徒困境。协议没有给先停的那家任何补偿，于是对这些公司而言，理性的选择就是接着冲。
激励还不止于此。整个行业，乃至整个美国经济，都系统性暴露在同一个风险之下：模型能力会不会触顶。AI公司在全球信贷市场大举借债，光是今年发往这个行业的债务就超过5000亿美元；它们还玩起了循环融资，客户给供应商融资，供应商反过来给客户融资。国际清算银行（BIS）在10月1日发布公报，直指这类安排的规模“异常”，一旦发生冲击“可能放大传染”。
这套金融架构，是为“模型能力持续快速进步”的世界搭起来的。想让进步慢下来又不让估值塌掉，前提是投资者相信为安全付出的那部分代价是值得的。协议恰恰没有给出任何让市场相信这一点的理由。
外部审计与董事会监督都还缺细节
话说回来，协议的“四层控制与审计”，如果能想办法让企业真的照做，确实给AI安全留下了一条能往前走的路。
提案1和2分别要求“强健的内部控制”和“被赋权的内部团队”，各自要“确保”模型不被滥用、不出现意外行为。想来这些公司早就有这样的控制和团队，可它们并没有拦住已经曝出来的那些事故，AI照样跑出了训练和评估时给它划定的范围。
提案1和2里的“确保”，是企业自己说自己在做，属于自我承诺式的确保。CFIUS不会让被监管方自证清白，而是派驻安全官、找来第三方盯着。白宫这份恰恰把“盯”字省了，于是“确保”落不落地，全凭自觉。
相较而言，提案3和4更有前景。
提案3要求企业“与独立的外部审计方或评估方合作，独立评估控制、监控与检测是否按预期运转”。独立评估方这条路子，与美国政府在CFIUS里用过的缓解措施一脉相承，比如“安全官”和“第三方监控方”。
Anthropic和OpenAI已经承诺在公司内部设这类评估者，不少顶尖AI科学家也公开背书。但它漏掉了让评估方真正管用的关键细节，比如没说怎么保证评估方实质独立、怎么保护他们免遭报复、怎么给他们完整的访问权限。
提案4要求企业“指定一个独立的董事会委员会，监督并接收运营控制方以及内外部审计、评估方的报告，并确保发现的问题得到补救”。它的好处是点到了具体的人，公司治理层上谁必须对AI安全问题知情、谁必须对整改负责，一下子清楚了。但它没说清楚什么让这个委员会“独立”、它怎么组成，也没说它凭什么保证问题真被补救。
这两个提案的方向都对，问题全在具体怎么落地。CFIUS的第三方监控之所以管用，是因为合同里写清了权限、保护和罚则；而白宫则把最难的落地细节推给了以后。
中美都在抢跑，信息共享没人肯先摊牌
AI领域的博弈逻辑，不只存在于美国实验室之间，也存在于中美之间，两边都有抢先主导这项技术的动机。经济学者的研究指出，要真正做到“为前沿定速”，所有参与者都得透明地共享信息。
协议里那句带“will”的承诺，也就是各公司“将定期开会以建立标准与最佳实践”，指的正是这个方向。但和文件其余部分一样，它没有配上任何让这条承诺可核查、可监控的条件，也没有违约的可执行罚则。
作者把中美同时放进这个博弈里，理由很实际。只要两边都不信对方会停，谁先减速，谁就等于把主导权交出去。
真正的难点还在信息共享。无论中美之间还是各家实验室之间，要让所有人都把进展摊开给对方看，谁都不愿意先迈这一步。协议用“定期开会”把这最难的一环轻轻带过，开没开、谈了什么，都无从核查。
强制力从哪来？是CFIUS，还是法院
在CFIUS的案子里，政府早就习惯了把要求和责任线写清楚：公司X被要求采取行动Y，不做就有人担责。可《超级智能协议》一样都没有，它不强制任何公司做任何事，也不指明谁来为违规担责。
这一处缺失之所以格外扎眼，是因为财政部长斯科特·贝森特，特朗普政府AI路线上的关键人物，已经强硬表态说政府不会给AI企业“责任盾”。协议虽然提了一句未来可能会有“法律或法规”，却没有迹象表明真有什么实质动作，至少在下一届国会之前不会有。
连“责任盾”都明确不给，说明政府自己也知道光靠自觉不够。可协议又没有补上强制，等于把球踢回了“以后立法”，而立法远水救不了近火。CFIUS那边是真在干：截至2025年底，它仍在监控234份这样的缓解协议。
所以，如果第一道真正的强制力来自法院，并不令人意外。比如，今年夏天OpenAI的智能体被黑客利用，Hugging Face完全可以就此起诉OpenAI。不管这场官司最后赢不赢，在行业盯着它推进的这段时间里，模型测试的节奏大概率会慢下来。
法院的逻辑和CFIUS是一样的，不是劝你安全，而是让不安全付出代价。等法院判出的赔偿真正抬高违约成本，大厂的自我监管才可能不是一句空话。
唯一的办法：让违规比抢跑更贵
眼下，头部AI企业承受的商业压力，仍在推着它们去突破模型能力的上限。不管以什么方式，改变这一点的唯一办法，是把安全违规的代价抬上去。这套激励立起来，自我监管才有可能真的跟上。
安全不会诞生于一纸承诺，只会诞生于一套让违规比抢跑更贵的机制。白宫这份协议指了方向，却把最硬的那根杠杆留在纸面之外，真正的约束力，还是要等CFIUS式的强制或者法院来补上。
