百度智能云词元所平台上,DeepSeek-V4.1-Flash 同时有 5 家供应商提供调用服务,价格、首 Token 延迟、吞吐等各不相同。
这对于开发者而言并非新鲜事。选择 DeepSeek、Qwen 还是 GLM 只是第一步,接下来困扰开发者的是需要判断:同一家模型,不同供应商提供的服务究竟有什么区别?价格更低的那一家,是否真的能提供相同的模型能力、推理速度和服务稳定性?
这并不是假设性问题,海外模型聚合平台 OpenRouter 此前就出现过类似争议。
今年 9 月,开发者 Mo Moustafa 对 OpenRouter 上不同供应商提供的 DeepSeek V4 Flash 0731 进行了对比。在相同模型权重的情况下,不同供应商的实际表现却出现了明显差距:DeepSeek 官方服务在 GPQA Diamond 测试中得分约 90%,TAU-Bench 工具调用测试约 81%;DigitalOcean 提供的同款模型服务,两项成绩分别只有 75% 和 58%。
模型没有变,只是换了供应商,实际交付的能力却可能相差一大截。问题在于,模型权重只是最终服务的一部分。量化精度、推理引擎、工具调用解析、GPU 资源调度乃至服务配置,都可能影响开发者最终获得的结果。
这场讨论引发了开发者社区的广泛关注,OpenRouter 也开始调整供应商路由机制。10 月 28 日,平台宣布不再主要按照价格进行路由,而是综合考虑响应速度、吞吐能力和可靠性。其公布的实验数据显示,新机制使首 Token 延迟改善 16.9%,吞吐量提升 16.3%,容量错误减少 46%,成本增加约 6%。
这反映出了模型 API 市场正在发生的变化:当模型供给越来越丰富,接入和调用已经不再是难题,真正困难的是如何判断服务质量,以及如何保证供应商长期兑现承诺。这也解释了为什么百度这样的科技巨头,开始将目光投向模型交易市场:当模型调用不再稀缺,可信的服务交付才是真正的竞争壁垒。
词元所试图通过模型验真、持续监测和信用评级,将原本难以比较的模型服务纳入统一评价体系,让企业和个人能够更加透明地选择、购买和使用 Token。据官方透露,试运行一个月以来,词元所入驻供应资源超过 100 个,日均调用次数突破 5000 万,日均调用 Token 超过 7000 亿。这侧面印证了开发者的真实需求。
Token 成为大模型商业化的重要计费单位,背后是 AI 使用规模的快速扩张。
根据国家数据局披露的数据,2024 年初,我国日均词元调用量约为 1000 亿;到 2025 年底,这一数字已经增长至 100 万亿。2026 年 3 月,日均调用量突破 140 万亿,到了 6 月又进一步突破 500 万亿。短短两年多,调用规模增长了数千倍。
从模型厂商到云计算平台,再到独立推理服务商和 API 聚合平台,越来越多参与者开始提供模型调用服务。IDC 的市场观察也显示,国内 MaaS 市场已经形成云厂商、大模型公司、独立推理服务商和运营商等多类参与者,各自依靠模型、算力、推理效率和渠道优势争夺市场。
但供给增加,并不意味着交易已经成熟。目前,Token API 服务仍然存在明显的信息不对称。不同供应商的计量口径、价格体系、性能表现和服务承诺并不完全一致。
中国信通院 10 月发布的《大模型词元服务性能监测报告(2026 年)》指出,同一开源模型在不同平台上的服务性能存在较大波动,各平台在推理加速、优化策略和成本控制方面的差异,是造成性能分化的重要原因。
这意味着,模型服务已经不能只看模型名称和 Token 单价。对于开发者而言,同样一百万 Token,最终获得多少有效输出、需要等待多久、任务能否成功完成,都应该纳入成本计算。
另一个问题是模型版本和资源配置的透明度。量化本身是一种正常的推理优化手段,能够降低显存需求和推理成本。但如果供应商将经过量化裁剪的模型仍按原版模型标称,或者在用户不知情的情况下静默升级版本,就会影响服务承诺的可信度。
对于采购方来说,最困难的地方在于,单凭 API 名称和报价,很难判断供应商实际提供的是什么模型、采用了什么配置,以及能否长期维持承诺的服务质量。
Token 已经有了计量和计费方式,却还缺少统一的质量评价和履约记录。商品化需要三个条件:可比价、可验证、可追责。能买到只是第一步,出了问题有人负责、换了版本效果不发生无法解释的变化、同样的价格能够获得可比较的服务,才是规模化交易的门槛。
这也是词元所出现的产业背景。
2026 年 3 月,国家数据局将 Token 中文名确定为“词元”,并将其定义为智能时代的价值锚点以及连接技术供给与商业需求的“结算单位”。8 月,工信部开展人工智能应用服务商培育专项行动,也提出探索通过首购首用、风险补偿等方式,加大大模型、智能体和 Token 服务采购力度。9 月,北京市发布《加快词元经济发展的行动方案(2026—2028 年)》,明确提出建立词元质量评测体系、打造词元分发平台。
从定名、质量评价到市场分发和服务采购,词元正在从技术计费单位走向产业交易要素。词元所要补齐的,正是模型交易中长期缺少的这部分机制。
对于企业而言,模型 API 的成本并不只有 Token 账单。
一家企业如果同时接入多家模型供应商,就需要分别进行技术评测、商务询价、接口适配和服务验证。模型升级后,还要重新测试;供应商出现故障,又需要排查问题究竟来自模型、推理平台还是业务集成商。
此外,请求经过中转平台后,可能被转发到官方模型 API,也可能进入供应商自己的推理集群,甚至经过多个服务节点。这条链路对用户来说往往是不透明的,尤其是对于采用多级转售的服务,用户可能并不清楚实际提供模型服务的是谁。更不用说供应商更换了部署节点、推理配置或模型版本,用户都未必能及时察觉。
这也是李彦宏在百度世界大会上强调的市场问题。模型迭代速度非常快,甚至今年前 9 个月几乎每天都有不止一款新模型发布,随之出现了大量词元中转站,但其中一些平台并不对模型效果、服务稳定性和响应速度负责,甚至连模型真实性都难以考证。
更麻烦的是责任划分。模型输出不符合预期,模型厂商可能认为是提示词设计问题,平台可能认为是模型本身的行为,集成商则可能将问题归因于数据质量。服务链条越长,出现问题后越容易产生责任争议。这也导致一些企业即使完成了 AI 项目试点,也不一定敢将模型服务纳入核心业务系统。
从财务角度看,这件事还有更直接的影响。
项目制采购通常依赖专项预算,一年一议,验收后结算;而持续运行的 AI 服务需要进入年度运营预算,按量计费,并接受成本审计和效果评估。企业要将 AI 从一次性项目变成持续运营的业务能力,至少需要解决三个问题:费用可计量、效果可追溯、责任可划分。
国研新经济研究院创始院长朱克力认为,词元所推动的变化,还在于模型服务商业形态的转变。过去企业采购模型往往采取一单一议的方式,费用计入具体项目;有了统一计量标准和可比较的信用记录,模型调用才有条件转变为按量计费的经常性支出,并纳入企业年度预算管理。
“产业化程度越高,采购决策越依赖公开指标而非销售承诺,这正是第三方交易基础设施的价值所在。”朱克力表示。
这三条恰好对应词元所的计量、验真和征信机制。
对预算有限但必须使用 AI 的中小企业,统一入口能够降低接入和选型成本;对靠模型能力提供行业解决方案的 ISV(独立软件开发商),可查询的供应商表现能够减少重复测试和采购风险;对采购流程严格、对合规和履约要求较高的地方国企及行业客户,公开的质量指标和信用记录则能为供应商选择提供参考。
过去,企业往往需要自己建立一套模型测试和供应商评估体系。不同部门可能采用不同的测试方法,采购结果也难以横向比较。
如果模型服务能够拥有统一的计量口径、可核验的质量指标和持续更新的履约记录,企业就能更容易完成选型、预算和采购流程。有指标可查、有记录可追,采购部门才更有依据将 AI 写进年度预算。
从目前公开的产品设计来看,词元所的核心能力可以概括为“验真”和“征信”,平台运行可以拆成四个阶段:准入、监测、评级和交易。
首先是准入验真。供应商进入平台前,需要核验资质来源,并对其提供的模型资源进行测试,包括模型指纹比对、模型能力测试、性能测试和可用性测试。
其中,模型指纹比对主要用于判断实际调用的模型是否与供应商声明一致;能力测试用于验证模型的实际表现是否符合标称能力;性能和可用性测试则关注响应速度、吞吐量、调用成功率及服务承载能力。这套机制针对的是三类风险:套壳换皮、量化裁剪后仍按原版模型标称,以及模型版本静默升级导致效果漂移。
其次是持续监测。模型通过准入测试,并不意味着后续服务质量就能一直保持不变。供应商可能调整模型版本、推理配置和底层资源,服务质量也可能随并发负载发生变化。
因此,词元所不仅在模型上架时进行一次测评,还会通过定期抽检、主动拨测和全链路实时调用监测,持续记录供应商表现。当质量参数发生变化时,平台会更新相关信用评价,并向用户提示。
在此基础上,词元所建立了质量分和信用分两套评价体系:
质量分主要从模型能力、服务性能、服务质量和成本四大维度,综合评价模型 API 服务的实际质量与能力水平。它回答的是:这项服务究竟表现如何,价格和能力是否匹配。
信用分则基于供应商声明与实际测评结果之间的差异,从模型真实性、性能、能力、安全合规及商业履约等维度,评价供应商承诺的兑现程度。它回答的是:供应商是否持续兑现了自己对客户作出的承诺。
两套评分的评价对象并不完全相同。一家供应商可能拥有性能不错的模型服务,但如果经常更换配置、服务质量波动明显,信用表现就可能受到影响。而长期稳定履约的供应商,则有机会通过持续积累记录建立市场信誉。
某供应商的报告
词元所采用模块化技术架构,其测评与评价体系围绕统一测评、基准管理、异常检测、持续监测、信用评价和可信存证六项核心能力展开。在测评体系建设上,融合公开基准、私有测评集与持续演进的自研探针,构建动态测评体系。
整个系统形成了“数据采集—指标计算—评测分析—可视化展示”的闭环,单次测试结果也能够与长期调用记录结合,逐渐形成可查询的履约历史。
这与传统模型评测有一个重要区别:传统评测更多关注某个模型在特定测试集上的能力,词元所还需要评价具体供应商在真实调用环境中的持续交付表现。毕竟,模型本身的能力是一回事,供应商能否稳定地把这种能力交付给用户,是另一回事。
可以看出,Token 交易平台要实现的并不只是建立一个模型目录。模型验真需要技术判断,持续监测需要算力和推理工程能力,多供应商接入需要平台分发经验,而信用评价最终还要进入企业采购流程。
百度的优势并不只在于拥有模型,而在于它已经积累了一套覆盖芯片、云基础设施、模型和应用平台的 AI 技术体系。
首先是模型能力。模型指纹比对要判断“这是不是它宣称的那个模型”,能力测试要判断“标称能力和实际能力是否一致”。这需要长期从事模型训练、模型评测和推理优化的技术积累,而不是简单接入第三方 API 就能完成。
其次是算力和推理工程能力。定期抽检拨测和全链路实时监测是持续性工作,背后需要算力资源和推理工程能力支撑。供应商越多、调用规模越大,平台需要处理的测试请求和监测数据也越多。
第三是模型分发经验。百度智能云千帆平台此前已经实现文心模型与第三方模型的统一接入,积累了多模型管理、API 服务和企业级调用经验。词元所面对的多模型、多供应商场景,本质上是这套工程能力向交易和信用评价环节的延伸。
最后是企业服务能力。信用评级要真正影响采购决策,还需要理解企业的合规、运维、结算和服务要求。百度披露,百度智能云已服务近 80% 的央企客户,位列 2025 年央国企大模型市场份额第一。这类客户积累使其能够接触不同规模、不同采购要求的模型买方。
不过,百度自身也是模型服务提供商,文心模型同样参与模型市场。词元所要获得长期信任,还需要通过一致的测评规则、公开的指标和可追溯的评价结果,证明不同供应商在平台上能够按照相同标准参与竞争。
交易平台的核心竞争力不只是拥有多少模型资源,还在于能否让供需双方相信平台提供的评价结果。
词元所还有一个容易被忽略的产业价值:它可能为存量算力打开新的变现渠道。
目前,国内算力市场存在一个明显反差。一边是高端智算资源持续紧张,部分头部大模型公司因算力接近承载上限而暂停新用户订阅;另一边, 根据中国信通院数据,2025 年我国智能算力供应量约 38 亿卡时,实际使用量约 14 亿卡时,使用率约 36.8%。这并不意味着全国算力总量不足,而是供给和需求之间存在结构性错配。
首先是层级错配。通用算力可能阶段性过剩,但满足大模型训练和高并发推理需求的高端智能算力仍然紧张。不同芯片的架构、软件栈和适配能力也不相同,拥有 GPU 并不意味着能够直接承接所有模型任务。
其次是区域错配。京津冀、长三角和粤港澳等区域聚集了大量算力需求,西部地区则拥有部分成本较低的算力资源。但实时推理对网络时延和跨区域调度有较高要求,富余算力不一定能够直接承接东部业务。以京津冀为例,北京数据中心峰值负载率趋近饱和,而张家口、廊坊等地虽然形成了规模化算力集群,本地产业需求却相对有限。
第三是运营能力错配。一些地方算力项目在建设阶段缺乏明确的客户画像,建成后又缺少推理优化、模型适配和市场运营能力,导致设备虽然已经投入使用,却无法形成稳定收入。经济日报此前也提到,有项目在引入原厂技术团队驻场调优后,整体算力利用率能提升至 80% 以上。
这说明,算力设备建成只是第一步。通过模型适配、推理优化和专业运维,可以让更多算力资源投入实际使用。但要进一步形成稳定收入,还需要解决服务产品化和市场对接的问题。
一块 GPU 要真正变成收入,中间至少需要经过三道“工序”:
第一道是把算力变成可售的模型服务,包括模型部署、推理优化和运维保障,这是技术活;第二道是把模型服务变成可比较的商品,需要统一计量口径、可核验的质量指标和可追溯的履约记录,这是市场规则;第三道是把商品卖出去,让有需求的开发者和企业能够找到供应商,并完成调用、交易和结算,这是渠道能力。
中小算力中心和地方国资算力平台往往在第二道和第三道工序上存在短板。它们可能拥有 GPU,也能部署开源模型,却缺少向客户证明服务质量的手段,更缺少稳定的客户渠道。词元所试图补上的正是这两道工序。
当计量口径统一、质量可以核验、履约记录可查询,一家有模型服务能力但缺少品牌的供应方,就有机会把自己的模型服务放到公开市场上,让开发者比价、选择和调用。
这也意味着,存量算力不必只依赖自建团队和固定客户消化,还可以通过标准化模型服务进入更大的供需市场。
当然,词元所并不能直接解决算力跨区域调度、异构硬件适配和底层推理优化等所有问题。它的作用主要在于让已经具备服务能力的算力资源获得更标准化的商品形态和市场入口。
出于成本、性能等考虑,开发者越来越不想长期绑定某一家模型供应商,交易平台可以根据任务类型、实时性能、价格和服务稳定性,在多个供应商之间动态分配请求。OpenRouter 已经开始探索这种方式,词元所建立的质量评价和信用体系,也为类似机制提供了基础。
这可能进一步改变模型服务商的竞争方式。过去,供应商主要依靠模型性能、Token 价格和算力规模争夺客户。未来,推理优化、工具调用成功率、版本稳定性和长期履约记录,可能直接影响平台的流量分配。能够稳定完成任务的服务商,即使价格略高,也有机会获得更多订单。对于缺乏品牌和销售渠道的中小型推理服务商,这种基于服务质量的竞争机制尤其重要。
企业采购也可能逐渐从比较每百万 Token 的价格,转向衡量完成一项业务任务的综合成本。一次成功的 Agent 执行究竟消耗多少 Token、经历多少次重试、调用了哪些模型、由哪家供应商完成,都可能成为未来模型服务计量和结算的重要依据。
但要走到这一步,模型交易平台还需要进一步解决评价标准透明度、跨平台计量、实时服务监测和履约责任等问题。尤其当平台开始根据质量分和信用分影响供应商流量时,评价规则是否公平,将直接关系到整个市场的竞争秩序。
这些机制一旦成熟,词元所这样的交易平台就有机会连接起更多分散的推理资源,让算力供应商通过服务质量获得客户,也让企业不必为每一次模型切换重新完成一轮复杂采购。







