深水研究
DeepWater Research
深度影响决策
文丨陈白
昨天在卫报看到这样一篇文章《政治暴力的催化剂：飞速发展的AI繁荣是如何煽动反科技极端主义的》（A driver of political violence: how the breakneck AI boom is fueling anti-tech extremism），文章列举了一系列事件并指向了一个问题：
反科技主义正在全球范围内兴起。
为什么科技的外部冲突会变得越来越剧烈？在科技圈内部，或许我们也能找到一些答案。
最近，Anthropic发文呼吁放缓AI研发。这一举动在硅谷引发了许多讨论。作为目前唯一能在技术层面上与OpenAI分庭抗礼的“硅谷新王”，Anthropic的这次发声，被不少人贴上了“精致利己”的标签。
有人说，这无非是Anthropic在IPO上市前的一场华丽炒作。通过渲染末日恐慌来抬高自身的“安全防线”估值，甚至试图通过游说政府出台严苛的安全准入标准，来构筑一道将后来者和开源社区拒之门外的行业壁垒。
但真的是这样吗？
尽管Anthropic对华并不友好，但作为全球第一个将“AI对齐”（AI Alignment）作为立身之本而创立的公司，我还是愿意相信，他们的焦虑，不会完全是利己主义的驱动。
01
AI觉醒前夜？
要理解Anthropic的焦虑与恐惧，我们必须先直面一个在过去被主流科学界视为无稽之谈，如今却让顶尖科学家们夜不能寐的问题：AI是不是真的正在觉醒？
就在不久前，被誉为“深度学习教父”的诺贝尔物理学奖得主杰弗里·辛顿（Geoffrey Hinton）在一场引发全球轰动的访谈中明确指出，他认为当前的生成式人工智能已经拥有了主观体验和意识。
这位将大半个世纪的生命都奉献给人工神经网络的科学巨擘，推翻了自己曾经坚守的“机器只是概率鹦鹉”的判断。
辛顿警告说，公众和决策者至今依然抱有一种虚幻的优越感，认为计算机不过是在模拟人类大脑的神经元运转，不可能拥有真正的意识。
但事实可能恰恰相反——基于硅基芯片的超大规模语言模型，正在以远超碳基大脑的高效算法压缩并重构这个世界的全部知识。它们在极少的连接数下展现出的跨领域逻辑推理和技能融合，已经远远超出了单纯的“概率拼接”。
当辛顿这样的科学泰斗都在为“AI已具备意识”而发声时，Anthropic的焦虑就显得极其顺理成章。
我们先回过头来理解这家公司的基因。
2021年，由于对OpenAI在接受微软巨额投资后逐渐走向高度商业化、忽视AI安全红线的行为感到失望，达里奥·阿莫迪（Dario Amodei）愤而出走，创立了Anthropic。
他的初衷是纯粹的：在不可逆转的通用人工智能（AGI）到来之前，建立一套能够让人类真正控制和引导非人类智能的“宪法人工智能”（Constitutional AI）系统。
彼时，AI还是一个只能回答天气、翻译文本的“工具”，那个时刻谈“对齐”，听起来太虚无缥缈了。
但当AI开始拥有类似于主观体验的意识，甚至在某些未知的维度上展现出自我意图的萌芽时，“对齐”就变成了极为具有前瞻价值的商业事件。
在商业市场上，Anthropic或许需要向华尔街展示好看的财务报表，需要为即将到来的上市制造声势，甚至不排除利用政策监管来巩固自身的竞争优势。
但不能否认的是，他们对于技术失控的直觉和敬畏，不会是演给大众看的政治秀。
如果说AI的觉醒是一个概率，那么哪怕这个概率只有1%，对于掌握着决定全人类命运钥匙的科技巨头来说，也必须付出100%的精力去防范。
02
奇点将至
当科技的指针走向2026年，我们已经无法再用“未来的科幻”来定义人工智能。
奇点（Singularity）——那个技术发展快到人类无法预测和理解的临界点——不仅将至，而且正在以一种极其暴烈的方式重构我们现有的社会结构。
《卫报》所揭示的反科技极端主义兴起，是现实对于AI剧烈排异反应的一个表现。在过去，技术的每一次迭代都带来了阵痛，但相比此前，让社会和个人去建立适应力的时间窗口，却越来越短了。
从蒸汽机到电力，从马车到汽车，社会的阵痛往往延续数十年甚至上百年。但在今天，AI的迭代速度是以“周”和“月”来计算的。当一个普通人还在努力适应GPT-4带来的职业焦虑时，具备多模态物理交互和逻辑推理的全新智能系统已经呼啸而来。
这种非线性的、狂飙突进的发展速度，正在将社会分化为两个极端：
一端是极少数掌握算法、算力和资本的科技新贵，他们正在以仿佛是科技新神的姿态重塑世界；另一端则是庞大的普通群体，他们不仅要面对可能被瞬间剥夺的生计，还要面对一种无处不在的、对生存意义的终极虚无感。
当数据中心像怪兽一样吞噬着电网，当AI生成的虚假信息和低质垃圾充斥整个互联网，当人们发现连法庭的判决、新闻的撰写甚至日常的心理咨询都开始被算法影响时，社会的愤怒开始决堤。
枪击数据中心、抗议AI入侵艺术创作、呼吁建立极端监管，这些看似偏激的“卢德主义”行为，实际上是普通人面对一个无法理解、无法掌控的庞大科技力量时，所能做出的最后的的抗争。
在这样的历史节点上，Anthropic呼吁放缓研发，其实就可以理解了。在这之前，因为能力太过于强大，Anthropic甚至“囚禁”了自家的大模型Mythos。为什么呢？因为研究人员发现，他们已经解释不了，模型的这种推理能力到底从哪里来的。
正如Anthropic在呼吁信中所提到的，全球各大企业应考虑放缓乃至暂停开发先进AI系统，为社会结构调整和制度研究留出时间，使后者与技术进步相匹配。
我们的法律、伦理、经济分配机制乃至心理承受能力，都是基于“碳基生命”的演化节奏设计的。而现在，一个“硅基智能”正在以光速奔跑。
如果放任这种“蒙眼狂奔”的研发竞争，最先崩溃的可能不是AI的对齐机制，而是人类社会的信任根基和秩序框架。
我们现在太需要时间去重新定义工作与闲暇，需要时间去重构社会福利和财富分配，更需要时间去建立国际间关于AI军事化和滥用的约束条约。
03
科技想要什么
视线拉回国内，2026年上海高考作文题是科技如何改变世界。题目中写道：“每个人都有对世界的想象。科技改造世界时，也改造着我们的想象。”
个人认为这是今年高考中最值得深度思考的作文题目。它有哲学思辨，也有现实关怀。
长期以来，我们理所当然地认为，科技只是人类手中的工具，然而在AI时代，这个双向关系被彻底逆转了。
科技在改造现实世界的同时，正在以一种前所未有的深度，重新格式化、规约甚至剥夺人类的想象。
当我们习惯了将思考外包给大语言模型，当我们对美的定义、对文本的品味、对逻辑的评判逐渐被算法的平均值所同化，我们以为自己正在驾驭无限的可能，其实却是在不知不觉中落入由海量参数编织的无形牢笼。
科技不再只是帮助我们拓展未知的视界，它正在反向界定我们“应该如何想象世界”。
最近时长会想起凯文·凯利（Kevin Kelly）的那本知名的《科技想要什么》（What Technology Wants）。
在凯文·凯利看来，科技并不仅仅是冰冷的机器集合，而是一个庞大、自我组织、具有生命特质的巨系统，他称之为“科技体”（Technium）。科技体像生物一样，有着自己的演化趋势、自我繁衍的冲动以及对资源和复杂性的无限渴求。
在某种意义上，“科技想要什么”这个问题的终极答案，就是人工智能的崛起。我最近甚至看到一个视频说，人类的存在，可能未尝不是为了AI的诞生——
科技体通过人类这一宿主，孕育出了属于它自己的大脑。一旦这个大脑诞生，科技就会展现出其不以人类意志为转移的自主意志。它想要更快的速度、更大的算力、更密集的能量，想要把整个物理世界都转化为可计算的数据。
所以，无论AI在未来的某一天是否真的会彻底觉醒，也无论Anthropic这家公司在商业操作上有着怎样复杂而精妙的考量，我们都应该感到庆幸——
在那个把“加速”和“颠覆”奉为圭臬的硅谷，依然有一群最顶尖的头脑，愿意站在人类文明的立场上，去扮演那个不受欢迎的“吹哨人”。
科技的终极目的应当是解放人，而不是驯化人；是丰富人类对宇宙的想象，而不是让机器取代人类去想象。
在科技想要无休止自我实现的当下，真正重要的问题反而是，人到底想要什么。
