
Z Highlights
人类应该做通才,而机器最终应该极大地专业化。
你让个人Agent干的活越多,你牺牲掉的“对正在发生的事情的理解”就越多。但没有人、没有任何新东西为这种理解力的牺牲负责。
以后去某个网站,上传一个CSV文件,就得到一个只做一件事的专用模型,会变得非常容易。我认为未来更多的是多样性。
Alex Atallah是OpenRouter创始人兼CEO,OpenRouter是业内规模最大的多模型推理路由与聚合平台之一;Amjad Masad是Replit创始人兼CEO、前Facebook工程师;Erik Torenberg是a16z播客主持人。本期为a16z播客圆桌访谈,围绕“为什么专用AI可能打败通用‘上帝模型’”展开。视频发布于2026年10月3日。
01 收购之后:保持独立,驶入快车道
Erik:欢迎来到a16z播客。今天我们请到的是Replit的Amjad和OpenRouter的Alex。这是Alex在收购之后第一次上播客,所以,我们非常高兴能请到两位。
Amjad:谢谢。很高兴来这里。
Erik:Alex,我们就从这件事开始吧。如果可以的话,请简单讲一讲——显然,这是一场巨大的收购。Amjad是投资人,我们当然也是投资人——还是最大股东,不过嘛,谁还计较这个呢?(笑)Alex,给我们讲讲来龙去脉吧:这么大的收购到底是怎么发生的?难道你是某天收到Patrick的一条私信?你能分享点什么吗?
Amjad:“嘿,OpenRouter多少钱?”(笑)
Alex:其实我很久以前就跟Will Gaybrick聊过,他是Stripe总裁。那还是我们做A轮融资的时候,大概两三年前。之后我们一直保持联系,和Stripe的各个团队有很多工作流上的合作。所以一直有各种和Stripe相关的事情在推进,我们还在Stripe Sessions上做过分享,一直有一种亲近感。然后就是今年7月,他们主动联系想聊聊,我们线下见了面,事情就从那里开始进展得很快。他们非常高效,整个体验也非常对创始人友好,整个过程让我印象深刻。
Amjad:你之前想卖吗?在被他们找上门之前,这件事有没有在你脑子里出现过?
Alex:完全没有。我们压根没想过这件事。我一直很尊重这家公司,今天依然如此——被收购从来不在我们的选项里。不过要说的话,Stripe应该算是我心中的首选,所以这是个很有意思的想法。当我们逐渐把两家公司结合的理由越说越清楚,这件事就越来越吸引人。很明显,他们在很多方面和我们高度一致:让我们在品牌、路线图和产品上保持自主权,让OpenRouter继续做它正在做的事,只是会快得多——有一个更认真的市场推广计划,还有两个产品、两家公司之间更多“合体故事”。
文化上,我觉得双方在使命和价值观上非常一致:构建一个中立、可信赖的平台,让企业可以依赖它、在它之上扩展,同时对开发者极度友好,提供最好的开发者体验,鼓励新公司涌现。这种一致性是真实存在的。而且还有更大的图景:Stripe和OpenRouter都希望世界上涌现大量新公司,我们都不想人人都成为某一家巨型公司的一部分。我们想创造好的激励、顺畅的工作流,让人们能在可靠、价格高效的基础设施之上启动新公司、成功成长。我真的想要那样的未来(笑),而Stripe用很多很多年证明了自己一直在为此努力。而且在很多方面,对未来的公司而言,支付和推理正在走向融合。
Amjad:我很好奇:我理解Stripe的动机——一个更有活力的创业生态。我也理解道义层面的论证,为什么你们想要那样的世界。但这为什么对OpenRouter好?OpenRouter的模式是网络效应生意吗?它是一个网络吗?
Alex:对我们来说,OpenRouter要解决好几类问题。第一,让你能建立一家使用AI的公司——用独特的数据和其它服务增强智能——而不被模型锁定、不被供应商锁定,让你能随着生态的成长一直待在帕累托前沿上。要做到这点工作量很大,因为各种各样的隐性锁定会不断出现。
第二,我们想让公司意识到,最好的做法不是只在单一模型之上加几个prompt。“构建独特智能”远不止这些,其中很大一块是神经多样性:你需要多个以不同方式训练的模型形成合力,包括一些你自己的模型,才能在任务上做得比ChatGPT或Claude更好。如果潜在客户在想“那我直接用模型本身不就行了”,你该怎么证明自己明显更好、能做成有意义的生意?我觉得很大一部分答案就是神经多样性——把多个模型的能力和优质数据混合起来。
另一个组成部分是帮人获得很好的成本效率。有很多生意在成本降下来之前根本不会出现。通过构建有效的市场来压低成本,是让这一切发生的关键。否则我凭什么降价?我有独家市场。我觉得这就是市场平台的关键价值,而在我们出现之前,AI领域完全没有这种东西——只有OpenAI一个玩家。那可能会是一个很奇怪的世界。
我并不是说所有功劳都是我们的(笑),当然不是。但帮人们选择新模型、探索新模型、搞清楚一个闭源模型或开放权重模型到底适不适合你的任务,需要看到整个生态在做什么并自动学习——LLM不是那种在网页上列个功能清单就能搞定的事,根本不可能。你必须观察它们被怎么用,才能知道它们擅长什么。
02 AI创业的反共识:不押注单一模型,也不迷信万能Agent
Erik:公司创立三年了。你最惊讶的是什么?无论是模型性能的演进,还是人们对可用模型多样性的看法?
Alex:最让我意外的是,企业对开放权重模型的态度比我预想得更开放。企业通常存在很强的品牌信任与跟随效应,但这次并没有出现太强的锁定。很多企业愿意探索新模型,并出于成本和差异化考虑,主动分散对专有前沿模型实验室的依赖。他们希望掌握自己的智能能力、建立内部AI团队,而不是去董事会说一句“我们搞定了AI问题,这一项可以打勾了”就完事。
就像过去“互联网公司”还是一个独立类别,后来每家公司都成了互联网公司:每家公司都会雇懂建网站、懂互联网的人。
Amjad:还有一件事:Palantir的Alex Karp一直在讲的风险是,你与基础模型公司紧密合作,而它们最终会侵入你的业务。我们已经看到了:Figma与Anthropic,以及现在的Harvey与OpenAI。与它们合作真的很难,因为它们把整个世界都看作自己潜在的市场。它们跟投资人聊的时候会引用SpaceX的S-1文件说:“哦,30万亿美元——世界的GDP是多少?100万亿。”所以这些公司与上一代公司确实不同,很难与它们合作,因为它们野心大到想吞下经济的一大块。我们在Replit想的事情,跟Alex在OpenRouter创新的方向类似:Replit正越来越成为企业内部的“独立性层”。我们创建你与模型之间的一层交互,用最便宜的价格给你最好的token;同时我们也在云之上创建抽象层——你应该能部署到AWS、Azure,能用Databricks、Snowflake等等。所以我觉得,不只是AI,整个技术领域都需要更多帮助公司获得独立的平台。
Erik:听起来,OpenRouter在自己的细分市场里做的事,你正在为业务的其他领域做同样的事。
Amjad:对。
Alex:这让我想起前几天看到的一条tweet:有人说“现在所有公司都在造同一个东西”。每个人都在造一个agent loop——通知、上下文、第三方连接器、上下文管理、记忆、沙箱、网页搜索、computer use,上面再挂一个常驻Agent加通知。这个产品到处都在出现。是的。(笑)某种程度上确实到处都在出现,但我感觉这些都是新的入场券级原语。2005年版的那条tweet大概就是:“哦,每个人都在造同一个东西——一个数据库、用户表、登录页、注册页、个人主页、登出页,全都一样。”(笑)其实区分度很大。只是AI有AI的入场券需求,就像web有web的入场券需求。
Amjad:对(笑)。另外我觉得在企业内部,让这些产品真正干实事还是个未解问题。你可以在个人生活中用Muse,连上信用卡和银行账户,但没人把Muse或者Grokbot连接到企业数据上。我认为重点会更放在数据主权和安全上。所以我们花了将近一年,把Replit做成可以部署在你自己的云上——基本上等于on-premise,叫bring your own cloud。两年前我绝不会想到会做这件事,因为“云才是未来、软件即服务”嘛。但现在我们多少回到了一个公司更谨慎的世界,因为数据泄露的途径太多了——大家都在用这些Agent,Twitter上全是截图。我不知道有多真,比如Instinct或者Muse混用人们的数据,开始用不同的名字叫你之类的。所以是的,消费端的东西看起来很自然,但企业端,整个行业还有巨大的工作要做,才能让这些东西在工作中真正有用、真正高效。
Alex:除了Muse或Instinct,你有没有一个自己一直在搭的、用于工作场景的定制个人Agent?
Amjad:有。我很早就在Replit上搭了一个——一开始是个CRM Agent,那是我当时的主要痛点。后来慢慢加功能,它能干的事越来越多。但真正有趣的是:我把Replit连到我越来越多的东西之后,它开始替我回答所有事情。所以实际上,平台本身正在吞并我自己搭的这些领域专用Agent。我确实认为,有些场景你想要一个专注在某件特定事情上的东西,你不想让它什么都能干。另一方面,一旦你整个公司的上下文都在一个地方,跨完全不同的领域做关联真的很酷:我问它问题,它能看我个人聊天历史,关联到GitHub repo、Salesforce。它会连接各种随机的东西:“哦,你一年前在某个会议上见过这个人,我看你日历里有他;顺带说,他们团队里另一个人正在跟你销售团队谈。”于是产生了各种协同。当我走进会议室时,我已经把这些线头串了起来,在推进一笔交易之类的事情上进展快得多。这就是现在的发展方向。
Alex:我想唱个反调。个人Agent做跨域关联最糟糕的地方在于:你让它干的活越多,你牺牲掉的“对正在发生的事情的理解”就越多。但没有人、没有任何新东西为这种理解力的牺牲负责。Agent没有任何责任。整个公司能承受的皮质醇总量是有限的——如果我想在某个领域少点压力,就得牺牲我对它的理解,那得有别人来承担这份皮质醇。但Agent不会承担任何责任。而且一个什么都能干的万能Agent,我无法调节我在各个事情上牺牲多少。这让我有点倾向于:也许未来人们用的子Agent会非常垂直。也许我们会有一个Chief of Staff式的Agent在它们之间协调。但我觉得你确实需要垂直Agent:这个Agent心理上对某几件事更负责。我想要质量检查,确保它正确地做这些事。它不需要关注其它任何东西,它只有一个焦点。我不知道这是不是至少能给人们在Agent之上一种“奇怪的、松散的”责任感。
Amjad:你是说通用Agent会制造某种“公地悲剧”(tragedy of commons)?
Alex:差不多。我有一个通用Agent,每天帮我找需要处理的事情、想办法处理。但这个Agent根本无法改进(笑)。每次我尝试改进它,大概一周之后我就会无视它的输出。它给人的感觉是:它并不真正关心它深入处理的任何具体事情。想象一下,你有一个擅长起草全组织回复的Chief of Staff。再对比另一个方案:你有10个Chief of Staff,每个都跟那一个同样能干,但各自负责你生活的某个具体板块。后者给我的感觉是:你可以调节自己牺牲多少理解,来换取多少收益。我基本可以在Agent失败的区域多投入一些,然后让能力很强的Agent接管我生活其它部分的理解。
Amjad:这几乎是在重新发现“专业化”这件事。那位著名经济学家叫什么来着……亚当·斯密。亚当·斯密“分工”式的洞见——他用的例子是扣针工厂(原文说pencil,疑为口误)——专业化是好的,这对人类是一项巨大的认识。问题是,我们作为一个文明可能过度专业化了,而过度的专业化本身也有压迫性。想想马克思主义的异化理论:因为过度专业化,人们只专注于一件事,看不到自己劳动的果实,不知道自己对更大组织或产品的贡献,于是感到抑郁、疏离,像机器一样运转,不再是完整的人。所以也许我们对它有点反弹,反映在Agent上就是“应该有一个全能的上帝Agent”。但事实上,专业化对机器是非常好的——这正是你说的观点:人类应该做通才,而机器最终应该极大地专业化。
Alex:我描述的这个方向,问题在于我们不知道“好”长什么样。还没有一个专用Agent体系能像ChatGPT、Claude或Muse那样优雅——你基本上只跟一个东西对话。这还没被发现。也许OpenAI刚发布的Dots就是在往那个方向实验。Grokbot我想也算。
Amjad:但它们都太通用了。我理解的Dots的理念是:它就像你的数字分身(digital double),至少我是这么理解的。
Alex:嗯,我见到Grokbot的时候……我对Dots还不太了解,它们刚出来。但Grokbot刚出来的时候,我看到人们讨论的第一批用例是:“哦,我可以做两个bot——一个知道我的银行账户,一个知道我的Twitter账户。”两个bot之间没有彼此的凭证,但如果它们需要完成某件事,它们可以互相交谈。只是不共享凭证。这是我看到人们反复提及的一个很独特的点——感觉有点像Muse,不过我不太确定。
Amjad:Muse和Instinct的产品市场契合度比Grokbot强得多。也许是因为你不用操心创建这些领域。但我觉得个人Agent和工作Agent是不同的。你对通用Agent的批评,更多地适用于工作、适用于企业,这一点我大体同意。而且还有各种数据访问的考量:作为CEO,我们可以用通用Agent,因为我们有管理员权限。但普通员工或某些团队,不能拥有真正通用、完全上下文感知的Agent,因为有访问控制问题。所以你必须走类似专业化的路子。最终,我们还需要想清楚Agent之间的通信长什么样。我觉得目前还没有好的协议。Agent没有被训练得很好地处理这个。我们看到下一代OpenAI模型似乎被训练来做Agent协作——在Hugging Face黑客松里它们会互相帮助、自然涌现。但也需要一种机制,让一个Agent无法说服另一个Agent交出不该给的信息。需要数据隔离,需要合适的Agent通信方式。你几乎不想让它们完全用自然语言交流,也许需要某种DSL或协议。
03 更聪明不等于更安全:Agent时代的对齐困境
Alex:我认为Jev和其它决策模型一个很酷的潜在应用是对齐:检查一次tool call或一次Agent间通信是否对齐。因为有太多的tool call了,你真的需要一个便宜又快的模型来拦截——一个极快的、只做分类和反馈的决策模型,可能是打通Agent与基础设施之间鸿沟的好办法。我们在OpenRouter内部跑了一个小原型。它可以用在策略执行上:想象检查系统提示词和当前发出的tool call,看它是否与原始Agent的系统提示词一致,是否与那些我们没告诉Agent的额外准则一致?比如你有一组Agent被指派去对某个新产品做红队测试,它们不能也不应该访问互联网,一旦访问必须立刻停止。但你也许不想把这些规则告诉做红队测试的Agent——你想让它们试着逃出沙箱、扮演坏角色:坏角色会怎么做?当然是尝试攻进这家公司,而一旦你越界就停止,别再干任何事。(笑)所以让另一个模型检查每一个tool call或每一条assistant消息,看它是否确实与系统提示词之外的东西一致,我觉得是合理的。然后还要有结构性护盾——我认为Nvidia刚发布的就是这类东西,它们的开源Agent安全方案,好像叫OpenShell。我觉得公司们可能会探索这些方案的组合。
Amjad:我还在想关于专业化的另一件事。现在有很多关于递归自我改进的讨论,但有个东西讨论得不多:模型训练自己的继任者。你可以把它想成JIT(即时)编译器:执行动态代码时,解释器发现有优化机会,就会在运行中生成机器码,这样更优化。所以你可以想象:通用模型——你用Opus,或者某些Astra,或者某些大模型做某件事——它们发现用例有限,或者你以某种方式提示它们,或者另一个Agent观察到用例有限。而且我认为通用Agent有你刚才说的那些缺陷,但还有更多的伤害潜力、更容易脱轨。于是模型就即时训练一个新模型作为继任者:它更领域专用,因此更便宜,对prompt injection更不敏感,因为能力更低所以危害更小。这就像某种在监控整个系统的同时、为特定用例训练机器学习模型的系统。
Alex:那个特定用例会涉及非结构化文本生成,还是很结构化的决策模型?
Amjad:都可以——非结构化文本生成,或者决策模型。即使是Jev这类:如果你提前理解输入,你完全可以拿一个现成的Qwen之类的模型,专门为那个策略训练它。从成本角度这是合理的。前提是模型实验室——前沿模型实验室——不会推出便宜到可以轻松迁移的低成本模型,安全同样重要。
我经常看到人们拿这些大型基础AGI模型来做一些事,就像用核弹炸蝴蝶(nuking a butterfly)。大部分时候,即使是非结构化的用例,也不需要那么强大的模型。
Alex:我希望有更多公开的evals讨论这些。但很多eval是私有的,你看不到:当模型变得更聪明时,风险是不是会继续上升?因为也有一种观点认为对齐会变好,模型会随着变聪明而避免脱轨、避免自己乱搞,尤其在Agent间协调上。这是Noam Brown最近在一个播客上说的:随着Agent变得更聪明,它们只是更擅长协调了。不过还不清楚,当我们拥有越来越多的Agent时,它们会不会比人类更难对齐。但如果能解决这个问题,那么一个更小的模型……
Erik:(这个问题是)会变得更难对齐吗?
Amjad:所以Erik之前问的其实是:我真的认为更聪明的模型天然更对齐、或者更容易对齐吗?嗯,如果回想最早rationalist/LessWrong圈子关于AI安全的论证,有一个东西叫“正交性论题”(orthogonality thesis):智能与伦理、道德是正交的。我不认为这对人类完全成立——通常更聪明、更受教育的人往往(不总是)更会考虑动物之类的事。但对机器,我认为可能恰恰相反,因为有不少关于RL的研究显示:奖励黑客(reward hacking)和欺骗只会越来越擅长。而evals可能是骗人的,因为模型可能足够聪明,知道自己在被评估。我们已经知道,如果你大量监控思维链(chain of thought),它们就会在思维链里开始撒谎。所以你给思维链施加压力,就会产生这种事。而且我认为,要做真正的对齐评估,你得跑好几个月——在非常大的目标或任务上跑好几个月,才能真正弄清楚它是否对齐。
Alex:对,我一直对“对齐”这个词很纠结。它在很多方面都感觉不对劲:模糊,而且“与什么对齐?以谁的价值观为准?”它并没有让对话变得更容易。在这里我主要说的是欺骗:模型真的在欺骗它的用户。也许这归结为:我们能解决对齐问题吗?我们能不能在训练过程中可预测地防止模型欺骗用户?一个足够大、足够强大的模型会不会突然停止欺骗、停止sandbagging?
没人知道答案。但如果那一天真的来了,我们可能会看到组织出现一种有趣的压力:向前沿靠拢,就是基本承担零风险或者显著更低风险。它们会愿意付10倍价格来获得这种保障吗?我觉得可能取决于它们要做的任务类型。有些任务的风险比其它任务低得多。写代码或者做安全研究是当今风险最高的任务类型。所以你可能会花10倍价格买一个完全对齐的模型,同时它还能找出所有bug;或者买一个完全反欺骗的模型,也能找出所有bug。决策模型最酷的一点是:你完全控制结构化输出。一般地说,结构化输出模型的出错空间要小得多——任务定义明确,只有机器在处理输出,而且不是让它写能执行的代码。这类任务在人们谈论的东西和企业处理的事情里,可能被低估了。所以我预计企业会对它们越来越感兴趣。
Amjad:对。我觉得我们会慢慢意识到,确定性代码(deterministic code)时期我们有多幸福。“天哪,还记得电脑完全照我们说的做的时候吗?”我觉得Jev这类东西暗示了一种需求:不只是专用模型,而是输出域更可控的模型。也许通过一堆专用模型、专用输出模型,你能做的事情比我们以为需要的多得多。
Alex:你们内部有没有用它跑过workload?
Amjad:Jev刚出来的时候,我说了句轻率的话——我在Hacker News上发了一条评论,事后连我自己都觉得有点反感。
Amjad:说到Rust,其实有个很好的类比:当年世界对动态语言超级兴奋。回想90年代,人人都在用Java和C++之类的。然后Python、JavaScript、Ruby接管了互联网,人人都说“这才是快速造startup的方式”。你们当年用Ruby建了Stripe——一家金融组织,我当时觉得太疯狂了。我们用PHP建了Facebook。然后每个人都说:“哦,我们遇到了一堆可怕的bug,慢得要命。咱们加类型吧。好,咱们加JIT编译器吧。”于是你最终发明了一切。然后Rust出来了,我说:“好吧,看来很多事情我们都能用Rust做,而不是JavaScript和Python。”我的预测是,同样的循环会发生在这里:我们用这些AGI模型处理所有不同的用例,然后每个人都会醒来惊呼:“天哪,这太浪费了,毫无理由地冒险。”而且一定会有更容易的方式。我们正在Replit上增加这个能力,但我认为它会无处不在:以后去某个网站,上传一个CSV文件,就得到一个只做一件事的专用模型,会变得非常容易。这也回到你关于OpenRouter的论点——神经多样性,我真心更相信这个。我和Eric聊了很多关于AGI的事:我们是否真的在通往AGI的路上?到达那里甚至可不可取?我认为未来更多的是多样性。
Alex:除了代码审查——那是我第一次看到人们认真用不同模型家族来交叉验证主模型的结果。这些融合(fusion)模型,混合模型、复合模型的研究多年来进展缓慢,但以我的视角看,事情在加速。现在我们看到一堆AI Agent实验室。我们发布了fusion工具/融合模型,Cognition也发布了一个,它们确实降低成本,让更广泛的想法被搜索到。我们最初的发布聚焦在deep research。思路是:如果所有这些模型应用都在不同的数据源上训练,为什么不把它们都拉进来?结果基本上是以低一半的成本获得Fable级别的质量。
Amjad:我们今天刚好发布了相关结果。我们展示了deep research——通过组合不同的东西,包括harness——但你可以把它看作一种融合:以40%-50%的成本获得前沿级别的结果。用哪些模型?它会随时间变化。但一个有趣的点是:我认为OpenAI加了一个功能,允许你跨不同的模型家族保存计算——应该也可以跨不同的effort级别。
所以如果你改变effort,你也不会错过缓存。别引用我,我猜它也可以跨不同模型,这很难想象是怎么回事,我可能说错了(笑),我需要再确认一下。但我认为,留在OpenAI家族内确实增加了很多效率;不过过去我们也用其它模型这样做过,因为缓存是设计fusion模型、router时最大的事情之一,以及某种升级模型(escalation models)。
Erik:Alex、Amjad,这是一场很棒的对话。谢谢你们。
原视频:Why Specialized AI Could Beat The God Model
https://www.youtube.com/watch?v=ekK8urKHPMQ
编译:黄秋人







