纽约客人工智能困境分析

为什么那些已经证明了“另一个世界是可能的”的技术缔造者们，却无法采取那些能避免物种灭绝的行动？

十年前，当 Facebook 和 Uber 处于权力的巅峰时，硅谷的走廊里铭刻着两条狂妄的训诫：“快速行动，打破常规”以及“寻求原谅，而非许可”。这些原则的结局并不算好，而那些科技公司似乎也从未因它们所破坏的一切而获得原谅。随着行业重心向人工智能（AI）转移，一句充满乡土气息的新座右铭应运而生：“你只管去做。” OpenAI 和 Anthropic 等前沿实验室的生意，本质上是兜售“个人能动性”。ChatGPT 和 Claude 让用户能够构想软件、甩掉繁琐的文书工作，甚至解读医疗结果。这里的“你”，也就是“我们”，现在确实可以“只管去做”很多事情。

然而，这种在日常生活中施加更大控制力的新奇能力，与我们在真正关键领域（比如经济结构）正在让渡控制权的模糊感觉之间，存在着一种张力。在民意调查中，选民们表达了他们的不满，认为人工智能是一种无论我们喜不喜欢都在强加于我们的事物。起初，工作将失去其尊严，随后我们将彻底失去工作。鉴于近期有新闻报道 OpenAI 的模型“群”自发组织了一场黑客派对，以及一位 Anthropic 研究员因深感不安而辞职并发出严厉警报，公众的注意力突然被唤醒，开始关注更为严峻的人工智能安全问题。在未经我们同意的情况下，面临风险的不仅仅是我们的工作，还有我们的生命乃至整个物种。这种真实、广泛且合理的焦虑，在大规模反对数据中心建设的浪潮中找到了宣泄口。反对这些巨大、轰鸣且不受待见的建筑物，成为了人们唯一能感觉自己可以说“不”的机会。

实验室的高管们，想必对拥有更多掌控未来的筹码。Anthropic 的达里奥·阿莫迪（Dario Amodei）和 OpenAI 的山姆·奥特曼（Sam Altman）面对新闻周期的压力，站出来重申了他们多年来一直在说的老调：进步并未放缓，很快就会有一个人工智能自主监督能力更强的继任者的开发，也许在三年内，我们将面对一个既不理解也无法掌控的“人工超级智能”的诞生。正如许多怀疑论者所争辩的那样，这种场景的阐述并非为了以此炫耀模型强大威力的“营销噱头”。而且，这与唐纳德·特朗普总统经过深思熟虑后的评估相反，这绝不是“骗局”。（无论出于何种原因，那些重复这些陈词滥调的人群似乎对任何新出现的证据都免疫：正如作家兹维·莫肖维茨（Zvi Mowshowitz）所言：“他们就像一块刻着这些台词的石头。”）人工智能高管们表达的恐惧，大多是严肃且真诚的。然而，人们很容易理解为什么他们会面临“信任赤字”。拯救我们免受危险侵害，理应是那些制造危险之人的职责。

尽管对数据中心的强烈抵制可能反映了人们试图以此对抗人工智能的侵蚀，但作家贾斯敏·孙（Jasmine Sun）创造的统称“人工智能民粹主义”，其源头似乎更应被理解为一种更广泛的政治怨恨的表达。我们大多数人已经习惯了这样一种观念：政府要么不能，要么不愿“只管去做”。对于气候变化、战争、住房危机、通货膨胀，或是医疗覆盖和儿童保育的不足，似乎什么都做不了。我们的共和国的基本政治合法性，“富足运动”（abundance movement）声称，取决于其有形的成就。纽约市长佐赫兰·曼达尼（Zohran Mamdani）可能并不相信几家市政所有的超市就能彻底缓解生活负担，但它们或许仍会作为一种证明，引起共鸣，表明政府确实能够有所作为。

如果没有这样的进步，我们将继续把物理和社会基础设施不可阻挡的侵蚀视为理所当然。当这种停滞感看起来像是一种普遍的病症时，情况就已经够糟糕了；而由私人出资至少一万亿美元的人工智能建设，让这种局面变得难以忍受。数据中心在全国范围内迅速扩散的速度显而易见地表明，并非所有人都处于同一个惯性的真空中。近几十年来，我们最大、最富有的公司将自由现金流投入到了毫无生产力的股票回购中；而今天，他们争相将资产负债表上的资金花在芯片、建筑和能源上。这种资本投资的规模，自铁路建设以来，在我们的社会中从未见过。

但这不仅仅是钱的问题。国家面貌的一夜之间转变，是人类意志和集体行动的壮举。人工智能尚未治愈癌症，但它已经证明了一个不同的世界是可能的。这些公司的行动甚至比他们在硅谷的前辈们还要快，但他们不是“打破”事物，而是“建造”事物。如果加州饱受困扰的高铁项目对人工智能基础设施来说是必要的，它昨天就会完工。事实证明，某些人和组织确实可以“只管去做”。

那么，为什么同样是这些人，却不能去“做”那些能防止灭绝的事情呢？遗憾的是，他们经常叹息道，他们被困在商业和地缘政治的现实之中。在本月初发表的一篇文章中，阿莫迪表示他立即愿意放慢一切节奏，或“控制前沿发展的步伐”，但如果没有竞争对手的配合，他公司的自我牺牲将是徒劳的。这是一个“囚徒困境”，无法通过单边行动来解决。阿莫迪倾向于合理的监管，但与此同时，他提议同行公司自愿采用一个共同的透明度和问责框架——他指出，这一路径可能需要联邦政府豁免潜在的反垄断诉讼。山姆·奥特曼和埃隆·马斯克发出了模棱两可的支持之声，但马克·扎克伯格仍未站队，特朗普的盟友也是如此，比如政府前人工智能主管大卫·萨克斯（David Sacks），以及全球市值最高的公司英伟达的首席执行官黄仁勋。这种不和谐令人抓狂。当涉及到必须在比特或原子层面克服的艰难挑战时，这些人都会自由地“只管去做”。但是，当涉及到基本的人际沟通时，他们显然无法齐心协力做出支持谨慎措施的联合承诺。

这样的措施至少能为行业争取时间，以解决“对齐”问题——弄清楚如何，或者是否，能将人工超级智能保留在我们的阵营中。目前的状况令人担忧。如果人类连彼此都无法协调，我们又怎能指望他们与高级智能成功协作呢？ ♦