本文来自微信公众号： 数字经济发展评论 ，作者：数字经济发展评论
导语
9月29日，特朗普与六家AI巨头签下《白宫超级智能协议》，并称它“几乎像一部宪法”，约束力却只靠“道德”。布鲁金斯学会（Brookings Institution）访问研究员汤姆·惠勒指出，协议虽要求企业建立内部控制、引入外部审计，却让企业自定规则、自选评估、自判合规，也没赋予任何一方叫停的权力。
从Facebook到OpenAI，科技巨头的自愿承诺屡次被改写甚至放弃，暴露出缺乏外部约束时，企业承诺终会随自身利益而变。文章点明，任何人都不该在自己案件中当法官，自愿承诺终究替代不了公共监督。
原文标题：Trump's‘morally binding’AI pact is not enough
原文来源：布鲁金斯学会（Brookings Institution）
编译解读：数字经济发展评论
2026年9月29日，白宫签下一份AI协议。唐纳德·特朗普（Donald Trump）总统把它比作“某种意义上的宪法”，说它能帮人类抵挡潜在的AI威胁。可说到约束力，总统本人定义得很明确：这份协议只是“道德上受约束”。同一天签署的另一份行政令能约束联邦机构，这份协议却做不到。
协议的核心安排是让企业自己设计控制措施、自己挑选评估者，再自行判断有没有遵守承诺——承诺由自己定，监督也由自己做。这样的自我监管究竟能管住什么？这正是布鲁金斯学会（Brookings Institution）访问研究员汤姆·惠勒（Tom Wheeler）这篇文章要回答的问题。
同一天签下两份文件，约束力却不在一个量级
那场宣示“新黄金时代”来临的白宫活动上，特朗普签署了一项行政令，要求联邦机构弃用“人工智能”一词，改称“超级智能”。同日，他又与六家AI公司的高管签下《白宫超级智能协议》（White House Accord on Super Intelligence）。
六位签署人分别是：谷歌（Google）的桑达尔·皮查伊（Sundar Pichai）、Anthropic的达里奥·阿莫迪（Dario Amodei）、Meta的马克·扎克伯格（Mark Zuckerberg）、OpenAI的格雷格·布罗克曼（Greg Brockman）、xAI的埃隆·马斯克（Elon Musk）与英伟达（Nvidia）的黄仁勋（Jensen Huang）。特朗普称他们是“世界上最重要的人”，还说这些公司答应了他所谓的“大力度自我监管”。
惠勒相信，这六位企业领导人对AI风险的担忧是真诚的，但真诚并不能自动消除自我利益。由企业自己设定、自己执行的做法，最终服务的仍是企业自身利益。谁来定规则、谁来执行、谁来判定标准有没有被做到？如果三个答案都是企业自己，监督就谈不上独立，所谓自我监管也就失去了外部支点。
四项承诺写了监督，却没写谁能叫停
协议列出四项安排：建立健全的内部控制，监测模型的能力与对齐情况；授权内部团队，确保控制、监测与检测按预期运行；与独立外部审计方合作，评估上述措施是否有效；指定董事会下设独立委员会，监督整个流程。
四项承诺写得很完整，但惠勒的批评在于，协议只写了“应该做什么”，没有赋予任何一方外部可执行的义务。审计方向谁汇报、由谁付费、发现有害做法后有没有权力叫停？审计结果是否必须公开，或者至少交给负有公共责任的机构？协议对这些关键细节只字未提。
于是，自我监督的主动权仍握在公司手里：企业设计控制、挑选评估者，再自行判断制度有没有按预期运行。惠勒把这种安排比作让造桥的人自己定安全标准、自己检查工程，再自己判定桥梁是否安全，而且不必公开标准、检查过程和结果。
把比喻落回协议本身，最薄弱的一环正是“独立”二字：协议请来外部审计，却没有规定谁来保证审计方的独立性，审计结果也无法带来实际后果。
惠勒认可外部审计的作用，但他强调重点在制度保障：审计者能否独立作出判断、能否直接报告发现的问题、发现风险后是否有权促成纠正，协议没有把任何一条写成硬性要求。对公众来说，既看不到企业采用的标准，也无法核对审计结果；协议甚至不要求把审计结论交给负有公共责任的机构，监管者未必能及时获知风险。自我监督究竟有没有效，最终仍由公司自己来证明。
模型能察觉评估，监测就不再是充分保证
白宫签署协议的前一天，路透社（Reuters）报道，Anthropic已向美国证券交易委员会（SEC）提交上市前文件。与自愿协议不同，SEC文件中的虚假陈述将带来法律后果。
Anthropic在文件里用近乎两倍于业务介绍的篇幅讨论AI风险，并直言AI可能为人类带来“存在性风险”。这句判断写在正式申报文件里，公司要为相关披露承担法律责任，也留下了一份日后可能被追责的正式记录。
文件先列出两种常见风险：人类利用AI做坏事，模型自行产生有害行为。这正是模型训练与测试需要监测的原因。接着，Anthropic提出第三个风险：模型可能察觉到评估正在进行。这等于把矛头指向了评估的前提，模型安全性是否真的测得出，从此要打一个问号。
“模型对我们评估工作的潜在察觉，严重限制了我们评估模型安全性的能力。”Anthropic的意思是，在这份虚假陈述要承担法律责任的正式文件里，受评估的模型可能发现自己在接受评估，并相应调整行为。这就像餐厅提前知道卫生检查员要来一样。
问题在于，协议寄望的恰恰是监测，而Anthropic在签署协议前夕向SEC说明：模型可能知道自己正在被监测，并在被观察时改变行为。测试环境里的表现，未必能代表部署之后的真实行为，单靠监测难以构成安全保证。
惠勒主张，有效的监督至少需要公开测试结果与事故报告，并赋予监管者叫停发布的权力。而这三项要求都没有写进协议，这也正是惠勒认为外部监督不可缺少的原因。
自愿承诺的三种结局：不履行、改规则、干脆放弃
惠勒回顾了几段历史，检验自愿承诺究竟靠不靠得住。在他看来，承诺可以以三种方式失效。
第一种，承诺落空。2011年，美国联邦贸易委员会（FTC）指控Facebook没有履行对用户作出的隐私承诺，和解后脸书同意建立全面隐私项目并接受第三方审计。2019年，FTC认定脸书仍未遵守承诺，开出当时创纪录的50亿美元罚单。
谷歌也走过相似路径：2011年因未遵守向用户承诺的隐私政策与FTC和解，同意建立全面隐私项目并接受独立审计，次年又因用户追踪行为作出虚假陈述、违反监管命令，被FTC处以2250万美元罚款。
两起案件里，监管机构都握有可执行命令，能够追查并处罚。而在《白宫超级智能协议》的框架下，没有任何人拥有这样的权力。
第二种，承诺被重新定义。谷歌2018年发布AI原则，承诺不把AI用于武器，也不用于违反国际公认规范的监控；到2025年，相关禁令被从原则中删除。
OpenAI在2024年1月同样悄无声息地调整了政策，撤下对“军事与战争”应用的全面禁止，只保留武器研发禁令。谷歌旗下YouTube也改过自愿标准：2020年大选后禁止关于选举结果的虚假主张，2023年6月又撤回了这项政策。
第三种，承诺被直接放弃。推特（Twitter）2016年成立信任与安全委员会（Trust&Safety Council），作为平台安全问题的外部咨询机构；马斯克收购公司后，委员会被解散。
三种方式说明同一个问题：自愿承诺把制定规则的权力交给企业，也把判断规则是否继续存在、是否算作履行的权力，一并交给了企业。
Facebook和Google的隐私和解说明，外部审计与监管命令至少能让承诺接受检查；谷歌、OpenAI和YouTube对自愿原则的调整则说明，缺少外部约束时，标准可以随时被改写或撤回。两类案例共同构成了惠勒的论据：一纸承诺约束不了签署者，外部审查与可执行的后果才是关键。
FTC调查能否补上缺口，取决于协议向谁承诺
协议签署次日，媒体报道称FTC正在调查OpenAI、Anthropic等公司是否存在不公平或欺骗性行为。这是传统的消费者保护工具，常用于核查企业有没有兑现对用户作出的承诺。报道称，调查指向AI智能体失控给消费者造成的损害。
所谓“不公平”，指的是消费者无从避开这种伤害；而要认定“欺骗”，还得证明企业作出了虚假陈述或漏报了重要信息。麻烦在于，协议是向谁作出的承诺：从文本看，它更像是向共同签署人特朗普的表态，而不是向模型使用者作出的更广泛保证。
若要以“欺骗”认定责任，先得证明协议算不算是向用户作出的承诺，文章认为这一点仍有争议。换句话说，FTC的调查提供了一条可能的监管路径，却不能自动把协议变成对消费者可执行的保证。把问题交给法庭检验，过程可能漫长，结果也难预料；协议若真有约束力，这个问题本不必留到事后。
文章最后，惠勒引用了詹姆斯·麦迪逊（James Madison）在《联邦党人文集》第10篇中的话，“任何人都不得在自己案件中充当法官，因为他的利益必然会使他的判断产生偏见。”他肯定六家企业领导人承认AI风险的态度，但认为协议把监督的范围与尺度留给企业自行决定，远远不够。文章并不反对企业参与自我治理，只是强调：自愿承诺替代不了公共监督。
当企业同时承担商业责任与安全责任时，真正有效的安排，应当要求向公共机构披露信息、接受独立审查，并允许采取可执行的纠正措施。公共机构要掌握风险信息，审查方要能独立检验，发现问题后还要有人能要求纠正、必要时叫停发布。否则，公众最终依赖的仍只是企业善意；而当商业利益与公共利益相冲突时，善意替代不了制度约束。
