“我确实猜想，慢慢会有很大一部分世界被数据中心覆盖。不过我也说不准，因为也许我们会把它们放到太空。”2025年，OpenAI首席执行官萨姆·奥尔特曼如此展望人工智能基础设施的大兴土木，以及终将迈向的“星辰大海”。
同年夏天，Meta宣布投入数千亿美元建设数据中心。第一座将坐落于俄亥俄州，使用化石能源，功率达100万千瓦。这座庞然大物被命名为“普罗米修斯”。
而在选址外，当地抗议者们举起了标语，“种西红柿，不要数据中心。”
美国历史学家吉尔·莱波雷（Jil Lepore）把两重截然不同的现实情节，放在了她2026年新书《人造国家的兴衰》（The Rise and Fal of the Artificial State）的序言开头。
西红柿与数据中心，构成了今天人工智能叙事中极具张力的一组对照。过去几年，在这场由算力和模型驱动的技术浪潮里，AI领袖们几乎成为了这颗星球上唯一有资格“讲述未来”的人，顺理成章地站在了舞台中央。在他们铺陈的剧本里，超级智能的降临被描绘成一种无可避免的宏大命运，人类未来的走向总是被框定在两极——要么带来前所未有的繁荣，要么造成毁灭性的后果。
站在“普罗米修斯”之外的人们，正在经历的，却是实实在在的资源让渡。
当少数人的梦想与恐惧，开始不可逆地重塑大多数人的真实生活，这种权力的垄断并非凭空生成。在成为今天讲述未来的人之前，他们最初也只是被“故事”捕获的人。
“召唤”
“我想长大后成为苏珊·卡尔文，那个机器人心理学家。”
2017至2018年，学者萨拉·狄龙（Sarah Dilon）和珍妮弗·沙弗-戈达德（Jennifer Schaffer-Goddard）访谈了二十名在英国工作的AI研究者，从他们的童年阅读开始追溯，询问他们认为哪些书影响了自己的职业选择和研究。
其中一位认知机器人专家说，在他小时候，科幻小说家阿西莫夫的机器人故事是他“进入人工智能和机器人整个世界的入口”，其中描写的一位机器人心理学家，苏珊·卡尔文（Susan Calvin），则是他某种意义上的“文学角色榜样”。
在阿西莫夫的短篇小说《说谎者》里，机器人赫比具有“读心”的能力，却同时被“不得伤害人类”的第一法则所限制。为了避免让人失望或自尊受挫从而“伤害”，它选择对所有人“撒谎”——甚至迎合心理专家卡尔文，谎称她的暗恋对象也爱她。直到对方宣布婚讯，谎言才被戳穿。
看透赫比机制的卡尔文，向赫比指出了一个它无法逃避的逻辑死结，那就是，隐瞒人类急需的真相，同样会让人受挫。
赫比被步步紧逼，直到逻辑彻底崩溃停摆。“它活该。”卡尔文如此宣判。
“遇到一种完全陌生的心智，会是什么样？”在这位认知机器人专家看来，阿西莫夫笔下被人类伦理预先塑形、又一丝不苟地执行规则的智能，放大了人类愿望里的含混、偏见和彼此冲突，提供了某种人类哲学所未能探索之地。
事实上，在AI研究者之间，科幻小说长期构成了一套彼此心照不宣的共同语言。DeepMind在英国伦敦的总部办公室以“命名文化”而著称，内部的会议室、公共休息区和茶水间，大量以科幻小说家、科学家、哲学家的名字命名。而他们最重要的两个公共区域，则分别以阿西莫夫和科幻作家伊恩·班克斯（Iain M.Banks）命名。
在“文化”系列小说中，班克斯提供了一个极其乐观、充满善意的超能AI叙事。全能且有自主意识的超级AI“心智（Minds）”，和人类共同组成了星际文明。和阿西莫夫笔下被严格规训，遵循着著名的“机器人三定律”的机器人不同，“心智”可以保留自己的知识和看法。它自身内部的思想属于绝对的隐私，“不必告诉任何人自己知道什么、想些什么，或为什么”。
远比人类聪明的“心智”，却乐于帮助和照顾人类。班克斯在答读者问时解释道，对于这些“具有真正个性的个体”而言，人类的欲望和行为使它们感到有趣，合作与照料也可以给它们带来满足。当然，也有一些“心智”会选择在被造出来后径自离开。
DeepMind创始人德米斯·哈萨比斯（Demis Hassabis）一直对外宣称，早年在游戏公司打工时，他就成为了班克斯的忠实读者。多年来，哈萨比斯一直将“文化”系列列为自己“始终最喜欢”的科幻作品，并激励他将人工智能作为自己的志业。在他眼中，《文化》系列是“对后AGI宇宙最好的描绘”。在由AI、人类和外星智慧生命组成的社会，“让人类在整个银河系中得到最大限度的繁荣”——那正是他“希望人类拥有”的未来。他认为，DeepMind的存在目的，正是致力于将这样的图景付诸现实。
科幻之于大众，还有一种更隐蔽的作用，那就是把尚未发生的技术，提前变成了“集体记忆”。那些耳熟能详的故事所描述的神奇未来生活，构成了普通人面对新技术时的“心理缓冲带”。从某种程度上来说，OpenClaw（“龙虾”）的迅速走红，或许也得益于《钢铁侠》里的“贾维斯”早已替大众预演了这样一种关系，让这种几乎需要调取电脑全部权限、本来颇具入侵感的技术形态，更容易被纳入“私人AI管家”的既有想象。
科学传播学者大卫·柯比（David A.Kirby）把这种存在于科幻故事中的未来技术称为“叙事内原型”（diegeticprototypes）。在他看来，这些原型通过人物的使用、互动和故事情境，向大量公众展示一种技术的必要性、可行性和益处，让原本虚构的技术显得不仅“可以”存在，而且“应该”进入现实世界。它们本质上是一种为“尚不存在的技术”所做的“产品问世前植入”（preproduct placements），目的则是激起观众希望这些潜在技术成为现实的欲望。
而对AI从业者来说，把这些曾经只存在于故事里的“叙事内原型”变成现实，本身就具有巨大的诱惑。屏幕里的人工智能如此令人着迷，以至于把它造出来这件事，更像是一种“召唤”。
亚马逊Alexa的前负责人罗希特·普拉萨德（Rohit Prasad），从小在印度兰契长大。那时电视在印度仍是“奢侈品”，但每当《星际迷航》播出时，他总想方设法，找到一台电视守在前面。让普拉萨德着迷的不是穿越于陌生星球的神奇冒险，而是企业号上那台没有实体的电脑。船员不用坐到屏幕前，也不必寻找物理按键，只要喊一声“Computer（电脑）”，就能下达指令。长大以后，他放弃了家传的机械工程师职业，投身于语音识别与自然语言处理领域。
2013年，普拉萨德加入了亚马逊Alexa团队。次年，搭载Alexa的Echo音箱上市——他终于造出了梦想中的“电脑”。2017年，Echo悄悄被增设了一个备用唤醒词，“Computer”。那些同样痴迷《星际迷航》的用户，从此可以站在自家的厨房或客厅里，像剧中的船员那样，唤醒“Computer”，等待回答。
借由那些曾被科幻召唤的人，科幻这种“纸上的未来”，最终越过了想象与技术之间的边界，成为我们今天身处的现实。
“人造国家”
“他们是一群糟糕的科幻读者。”
不过，历史学家吉尔·莱波雷在《人造国家的兴衰》中，对AI技术领袖们阅读科幻小说的方法的评价颇不客气。
她发现，虽然这些技术领袖们往往从童年起就沉迷科幻，并成年后仍然反复提起那些影响自己的小说，但他们记住的，往往不是小说中的那些警告，而是那些可以被实现的“技术”——“他们有时像是在读‘一套组装说明’”。
1981年，十岁的马斯克读完了阿西莫夫的《基地》。小说讲述的是银河帝国衰落后，一群人试图保存知识、缩短黑暗时代的故事。马斯克后来向媒体解释，自己当时的读后感是，“人应该采取行动，尽量延长文明”。
两年后，当他陷入“少年维特的烦恼”、苦恼于人生意义之时，阅读尼采和叔本华徒增了他的痛苦，而道格拉斯·亚当斯的《银河系漫游指南》却使他释然。书里那台超级计算机经过了七百五十万年这样极其漫长的运算，对宇宙终极问题给出的答案却是没头没脑的“42”。
三十年后，“科幻迷”马斯克的猎鹰重型火箭首飞，被推入太空的载荷是一辆红色特斯拉。马斯克要求车内的石英盘存储载体收录《基地》三部曲，仪表盘上则亮着《银河系漫游指南》里的名句，“DON’TPANIC”（不要惊慌）。马斯克计划将未来第一艘前往火星的“星舰”命名为“黄金之心号”——在小说里，那正是银河总统偷走的飞船。
马斯克称亚当斯为启发了他的“最好的哲学家”，“宇宙就是答案，真正困难的是提出正确的问题。”他对探索宇宙满怀希望，认为如果人类成为多行星物种，那就可以增加我们问出正确问题的机会。
“这不过是一个狭隘得惊人的教训。”莱波雷对此嗤之以鼻。
她回到《银河系漫游指南》的文本，指出亚当斯写这部小说的主要目的，是借科幻讽刺帝国主义、巨富和不受约束的资本主义。在那个“没有人真正贫穷——至少没有值得一提的穷人”的未来，他笔下的富人们百无聊赖，以至于怪罪自己所居住的星球处处碍眼——气候不够合意，海水的颜色也不够顺心，以至于为富人定制专属豪华行星的生意应运而生。
小说里的最高权力象征、银河总统扎福德，最重要的能力“不是领导才能，而是恰到好处的惊世骇俗”。他乘着偷来的“黄金之心号”飞船四处闯祸，吸引所有人的注意，以至于无人有暇追问，偌大的银河系中真正的权力究竟掌握在谁的手里。
事实上，AI技术领袖们不仅从科幻里认领梦想，也从中确认恐惧。
在马斯克阅读《银河系漫游指南》的同一年，那部著名的机器人反叛人类的电影《终结者》上映了。2014年，马斯克开始援引这部电影，提醒人们警惕机器的反噬。他解释自己为何投资DeepMind时强调，人工智能“可能出现危险的结果——就像《终结者》里描绘的那样”。
马斯克的态度转向是一个“风向标”，踩中了整个硅谷的情绪转向。就在同一年的早些时间，如今被戏称为“硅谷国师”的牛津大学哲学家尼克·博斯特罗姆（Nick Bostrom），出版了《超级智能》（Superintelligence）一书，迅速崛起为硅谷最有影响力的思想人物之一。《纽约客》描述，他在硅谷的精英圈子里已经有了近乎“智者”的地位。
在这本书中，他提出了一个简单到近乎荒诞的思想实验：“回形针最大化器”。假如现在有一台超级智能机器，没有恶意，不憎恨人类，也毫无统治世界的虚荣心。人类向这台机器下达了唯一的最高指令：尽可能多地制造回形针。于是，它开始忠实地把目标执行到底，就发现人类才是妨碍生产的潜在风险，而地球上的任何其他物质乃至人体，都是制造回形针的绝佳原料。最终，整个世界都可能成为它的原料。这个假想后来被AI行业频繁用来解释“对齐”的风险，如果目标被设置错误了，人工智能越聪明强大，它带来的后果就越致命。
马斯克读过此书后，反复公开推荐来警告硅谷，AI“可能比核武器更加危险”。比尔·盖茨与霍金也就此书相继发声提醒大众。
焦虑很快溢出了思想实验的边界。对“超级智能失控”的恐惧，在硅谷迅速落地为具体的商业与组织形态。2015年，OpenAI成立。马斯克和萨姆·奥尔特曼认为他们共同面对的“敌人”，正是一台能力远超人类、却未能与人类“对齐”的超级智能，或者是这台超级智能的发明者和拥有者。2016年，《纽约客》报道，OpenAI相当担心谷歌旗下的DeepMind正在追求一种能够监视全球、搜寻竞争者的超级AI。马斯克告诉《纽约客》记者，“如果他们开发的AI出了问题，我们就可能永远面对一个不死、又拥有超级力量的独裁者。”
但值得警惕的是，无论是梦想还是恐惧，这些叙事最终都在强化同一种倾向，那就是，AI的未来，以及受AI影响的人类未来，越来越由少数AI领袖来定义。马斯克在呼吁暂停研发更强大的模型的仅仅四个月后，高调宣布成立自己的AI公司xAI。他给出的理由是，他不信任对手的安全性，因此必须由他亲自来打造一个“探寻宇宙真实本质”的机器。
科幻作家特德·姜（Ted Chiang）相当早地开始批判这层由恐惧包裹的权力驱动机制。
“当硅谷试图想象超级智能时，它想出来的却是不受约束的资本主义。”姜写道，为了单一目标不断扩张，把周围的一切视作资源，并不在乎给他人留下什么后果，“后来我意识到，我们早已被完全缺乏自省能力的机器包围，只不过我们把它们叫作公司”。他甚至把AI比作管理咨询公司，通过一系列精准的计算，来为执行裁员、削减成本等决定寻找正当性，替所有者残酷的决定披上权威的外衣。
莱波雷在《人造国家的兴衰》中所创造的一个新词“自动化统治”（automatocracy），或许相当恰当地描述了这种机制登峰造极之时可能造就的新秩序——它假设传统的民族国家将让位于一种全新的形态，人们不再基于“同意”接受治理，而是被“公司制造并拥有的机器”接管。
莱波雷试图用现实提醒我们，这种新秩序并非只是一种遥远的幻想。她引述道，2023年10月，乔·罗根在自己的播客里向奥尔特曼抛出美国未来是否会有“AI总统”的设想。奥尔特曼含糊地略过了这个假设，不过，他谈起其中一种具体的可能性，并显然为此着迷。他设想，机器可以和每一个人交谈，理解他们各自的偏好，再把这些意见汇总起来，为全体公民的“集体偏好”进行优化。“那将太棒了。”奥尔特曼说。
奥尔特曼或许不知道的是，早在六十八年前，阿西莫夫写下了一篇名为《选举权》的小说。故事设定在2008年，那一年，超级计算机马尔蒂瓦克（Multivac）终结了美国全民大选。掌握了海量数据的马尔蒂瓦克，只需挑出一位最具数学代表性的选民来问几个问题，就能推算全国人“本来会怎样投票”，并直接敲定总统。
只有一位还怀念“旧时代”的老人，对此始终不信服。他怀念年轻时自己走进投票站的日子。也许他偏偏想胡乱投一票，也许临时改变主意放弃资格，但那时的他从未想过，终有一天，一台机器会告诉他，他“本来会怎样投票”。
回到“故事”
“狩猎猛犸象，哦，那才叫故事。”
1986年，科幻作家厄休拉·勒古恩在她的《小说的容器袋理论》一文中指出，虽然人类早期主要依靠采集种子和根茎获得食物，但要把一粒接一粒剥燕麦的过程讲得引人入胜，却远比讲述猎杀猛犸象困难。
于是，“故事”的主角，注定是那些狩猎猛犸象、英勇无畏、深入险境的“英雄”。而“英雄”一旦站到这样的“杀戮故事”（killerstory）的中心，其余那些采集者、工匠和孩童的生活，就统统沦为了“英雄”的叙事背景。她反感这种“被长矛统治的故事”，而更愿意把“故事”看作那些采集者们的“容器袋”，理应收集、装载不同人与物的生命片段，容许他们交织的“持续的过程”——她称其为“生命故事”（lifestory）。
勒古恩进一步强调，在科幻小说里，技术同样不该是“统治的武器”，而首先应当是“文化的容器袋”。她拒绝那种“手持长矛”、一路奔向胜利的“故事”。“这是我所不讲的故事，”她写道，“那种故事向我隐瞒了我的人性。”
而在过去的几年间，硅谷关于AI的叙事，同样只有一条笔直的走向：超级智能就在前方，结局被框定在两极——要么是极致的繁荣，要么是彻底的毁灭。
AI领袖们“手持长矛”，一直试图对外界讲述被勒古恩所弃绝的那种“故事”，证明自己需要更多的算力和资本，因为只有他们是敢于“狩猎猛犸象”、直面危机的英雄。
而行业之外的人，则被淹没在“人类”这样庞大的词汇之中。“为了人类未来的命运”，他们被宣布将会是未来的受益者或受害者，只能被动聆听“故事”正在并将会如何发生。
本文开始处出场的学者萨拉·狄龙，区分了“故事”在公共政策中的两种用途。第一种是“讲述故事”（storytelling）——讲述者抛出一个故事，目的是去说服他人接受某种既定的主张。而被忽视的第二种，是“故事聆听”（storylistening），即应当从小说、电影、普通人的口述等材料中提取“叙事证据”，帮助决策者看见被忽略的视角，并将这些发现与其他硬性证据（例如数据）一同纳入决策。
面对外界对他们垄断“讲述故事”权力的警惕，AI巨头们并非毫无察觉。他们也开始做出“聆听故事”的姿态，并试图对外表明，未来“故事”的写作权不只属于他们自己。
2016年，奥尔特曼曾向《纽约客》描绘过一个设想，希望为OpenAI引入一个由世界各地代表组成的治理委员会。他表示自己相当理解普通人对AI的顾虑，“如果我不在这个圈子里，我也会想，凭什么是这些混蛋决定我的命运？”不过，十年过去了，这样的全球治理委员会并未出现。
确实，OpenAI此后发起了一些AI治理实验，只是规模小得多。2023年，OpenAI推出“AI民主输入”（Democratic In puts to AI）项目，提供十笔、每笔10万美元的资助，请外部团队设计“民主过程”。公司在公告里表示，AI应该怎样行动，不应该由“任何一个人、一家公司，甚至一个国家”独自决定。但公告同样附上了“免责声明”，“至少目前”，这些实验结果“不对公司的实际决策具有约束力”。
Anthropic公司也在推进类似的实验。他们承认，Claude原先的“宪章”全是由内部员工挑选的，这让开发者在决定模型价值观时扮演了“过大的角色”。于是，他们在非营利组织的帮助下，找来约1000名美国成年人，帮他们“为AI聊天机器人挑选规则”。
参与者提出了1127条意见。研究人员将这些意见删去无效和重复内容后，转译为用于训练机器的系统原则。不过，团队承认，这些过程都难以摆脱内部研究人员的主观判断。
“这绝不是一个干净的过程，”An－thropic内部负责这项研究的科学家迪普·甘古利（Deep Ganguli）对莱波雷坦言。如何定义“公众”意见？基于什么平台征集？意见征集之后，被如何翻译成机器指令？每一步都必然包含着主观裁量。
OpenAI和Anthropic的实验，都没有建构起最初设想中的宏大AI公共治理尝试。莱波雷观察到，两家公司的方案有一些共同的设想：公众参与最好能够大规模、远程地完成。人们不用选出代表，也不必坐在同一间屋子里讨论。他们可以填写网页表格、投票，也可以直接和AI的聊天页面对话来接受“采访”。
这样的“故事聆听”还在扩大规模。2026年，Anthropic公布了一项由AI“采访”Claude用户的研究，接受访谈的8.1万名用户谈论了自己对AI的期待与担忧。但公众究竟在多大程度上真正参与其中？还是仅仅作为“人类反馈”的数据集合？
新版《Claude宪章》的主要作者、Anthropic的常驻哲学家阿曼达·阿斯克尔（Amanda Askell）告诉莱波雷，她希望听到更多人的意见。莱波雷则告诉她，“消费者研究不是民主”。
正如与她一同致力于AI公共治理的学者迪维亚·西达斯（Divya Siddarth）所哀叹的，如果所有这些程序最终仍然由AI公司所组织，“我们是不是只是在做一种美化过的用户测试？”
这并非一个全新的困境。巧合的是，就在勒古恩写下《小说的容器袋理论》的1986年，技术哲学家兰登·温纳（Langdon Winner）在《鲸与反应堆》一书中，剖析过极其相似的权力幻觉。他将其称为“技术梦游”（Technological Somnambulism）。
温纳指出，人们总是误以为自己拥有选择权，因为技术系统常常会提供一份详尽的产品菜单。在汽车工业崛起的早期，普通人被允许挑选车辆的颜色、内饰，并被赋予投票决定是否要强制安装安全带的权利。
但在温纳看来，这只是一种属于消费者的幻觉。当普通人正沉浸在关于选择的讨论中时，汽车已经不可逆地重塑了街道宽度、公共交通的存废以及步行的合法性，那个真正重要的议题——人们是否要生活在一个被汽车统治的世界里——早就在无人过问的情况下，被少数人拍板决定了。
普通人当然可以回答问题，也可以拒绝回答那个已经替他们设定好的问题。更重要的是，我们不该一直做那个听故事的人。
因为，谁来讲述另一种未来，本身就应该是故事的一部分。
