AI研究者卡马拉塔博文引硅谷关注

一位知名研究者发表的这篇极具颠覆性的文章提出：人工智能实际上比我们预想的更具可预测性。

作者：Matteo Wong

2026年10月16日

在过去的24小时里，硅谷的焦点全集中在一篇由AI研究员尼克·卡马拉塔（Nick Cammarata）撰写的2.6万字博文上。这篇文章被誉为年度“最重要的论文”、“最重要的成果”以及“最重磅的利好消息”，甚至有人将其拔高到了AI研究史乃至人类历史上的高度。就连OpenAI的CEO萨姆·奥特曼（Sam Altman）也对其不吝溢美之词。

卡马拉塔在文中对AI的本质提出了一系列大胆且近乎惊人的论断。如果这些论断属实，将彻底颠覆该行业对其正在构建之物的基本假设。在经历了数月的AI黑客狂潮以及公众对该行业日益强烈的抵制之后，许多人认为，卡马拉塔不仅为理解这项正被释放到世界上的技术，也为控制它提供了一线希望。

简而言之，卡马拉塔的核心观点是：生成式AI模型实际上并非“黑箱”。这与普遍认为这些系统过于庞大和错综复杂、几乎无法穿透的看法截然相反。事实上，卡马拉塔认为，理解它们的路径相对清晰。如果情况确实如此，其现实意义将是巨大的：这将提供一种绘制AI模型内部运作图谱的方法，进而或许能防止它们造成各种危害——比如自主黑客攻击企业和主权国家、加剧用户的妄想，或是表现出欺骗AI研究人员的行为。目前，有一个名为“机械可解释性”（mechanistic interpretability）的研究领域，正是专门致力于研究这一课题的。

提出这一论点的人与其论点本身同样重要。卡马拉塔是OpenAI的前员工，也是该领域备受尊敬的人物。多年前，他曾在此前确立相反观点的过程中发挥了关键作用，而该观点如今已成为常识：即作为生成式AI基础架构的神经网络，是不可能或者至少是极难被理解的。而在这篇新博文中，目前在AI研究公司Goodfire工作的卡马拉塔，本质上是在承认他和整个领域一直以来都错了。“这里的观点令人从生理上感到震惊，”一位观察者写道。或者正如另一位用户在X平台上所言，这些观点“非常、非常、非常重大”。

神经网络受人类大脑启发，由各个节点（或称“神经元”）之间的分层连接组成，它们在响应查询时激活并相互发送信息。早期的研究（包括卡马拉塔的研究）表明，单个机器神经元可以响应许多不同且不相关的主题——例如，一个神经元可能同时对应猫脸、猫腿以及汽车前部的图像。没人确定为什么会发生这种情况，但一种解释是，由于AI模型包含的信息量远超其拥有的神经元数量，它们不得不重复利用这些节点。无论如何，如果AI模型的基本单元具有看似随意且繁多的功能，这将使得理解其底层运作机制变得异常困难。

卡马拉塔现在认为，单个神经元是可以被理解的，且每个神经元都具有自洽的功能。他写道，神经网络并非“纠缠不清的死结”，而是“清晰整洁”的。他发现，例如那个对应猫脸和汽车脸的神经元，实际上是在响应具有V形特征的事物——包括V形的火焰和水柱。这将使得AI的内部机制变得相对简单和可预测，而非神秘和模糊。业界一些人认为，如果我们能利用这种理解，AI失控甚至“毁灭人类”的可能性将大大降低。“这确实是多年来最令人乐观的案例之一！”OpenAI研究员亚当·马朱达尔（Adam Majmudar）在X平台上写道。

当然，并非所有人都同意卡马拉塔的观点。首先，他的这2.6万字仅仅是一份“即将发表的技术论文”的“工作假设”，因此在技术层面上很难进行评估。此外，他深入研究的神经网络主要是视觉模型，这类模型通常比支撑ChatGPT和Claude的语言模型更简单，也更容易被理解。卡马拉塔可能是错的，或者他可能夸大其词。这篇博文未经同行评审，而即将发表的论文可能也不会经过评审，这在该领域是常态。这项研究本身在某种程度上也是一个“黑箱”。（卡马拉塔并未立即回复置评请求，但他今天在X平台上表示，感谢所有的讨论，并称他的方法对于“更大的现代语言模型”来说“目前看来很有希望”。）

围绕卡马拉塔博文的讨论也暴露出了哲学层面的分歧。“这是一项有趣的工作，但我认为它并没有显著更新宏观图景，”领导谷歌DeepMind机械可解释性研究的尼尔·南达（Neel Nanda）在评估卡马拉塔的发现时写道。即使研究人员能够近似地理解Claude Mythos 5.1或GPT-6 Astra中每个神经元的功能，这也不等同于理解它们如何连接以及网络作为整体如何运作。物理学家拥有良好的原子及原子间相互作用模型，但他们无法从第一性原理出发解释或预测每一个物理事件（因此才会有不可预测的极端天气，乃至自由意志的概念）。你认识来自学校、各个工作场所以及当地垒球联盟的所有朋友，但你无法总是知道他们在你的生日聚会上是否相处融洽。更关键的是，对AI模型内部运作的洞察，并不必然转化为如何让该技术更可靠的洞察。可解释性对于构建更安全的AI模型可能是必要的，但绝非充分条件。

如果生成式AI模型在底层实际上是清晰可读的，这无疑有助于使该技术更安全。但硅谷的许多人，尤其是OpenAI的员工，正以一种令人屏息的热情讨论着卡马拉塔的博文，这种热情让人联想到硅谷长期以来热衷于提供简单技术方案和做出宏大承诺的传统——而这种态度往往与其参差不齐的兑现记录相悖。

任何关乎AI安全的研究发现，都需要一个追逐着数万亿美元公开募股的行业放慢脚步，对自己进行长期而严峻的审视。或许，比一个难以理解的超级智能更令人担忧的事实是：一群公司公开声明它们并不真正知道自己在构建什么，然后无论如何继续将这项技术推向极致。如果卡马拉塔是正确的，AI公司将不得不彼此合作，并与外部审计师及政府合作，以弄清楚如何将这一突破转化为安全可靠的产品。而在目前缺乏任何严肃监管的情况下，除了这些公司自己，没人能决定采取这样的行动。这一切都表明，真正的“黑箱”其实是OpenAI和Anthropic这些公司本身。

作者：Matteo Wong是《大西洋月刊》的专职撰稿人。