Token导航 LogoToken导航

AI 资讯 · 摩羯商业评论

科大讯飞星火X2.6-4B本地运行省Token聚焦任务

更新 2026-10-26摩羯商业评论正文 5310字阅读约 17分钟

一家机器人公司的总经理在做周度经营复盘时,AI从企业邮箱里找出各大区周报,汇总营收,交叉核对销售、排产与供应链信息,还发现了一个容易被忽略的问题:两个区域团队正在向同一客户分别报价,存在撞单风险。

完成这些工作的,是本地运行的星火X2.6-4B;而且分析结论可以追溯到原始邮件,内部经营数据无需出域。

另一项采购合同审查任务,则走了不同的路径:端侧先解析文件、识别并脱敏敏感信息,经用户确认后,将脱敏文本加密上传云端;云端完成法规比对和跨条款风险分析,再把结果传回本地,输出风险汇总与修订文档。

这是10月22日第十届科大讯飞全球1024开发者节上的两段演示。

主论坛发布的星火X2.6及全新“云+端”端云一体方案,由此呈现出一个比模型参数更值得关注的变化:AI正在从“有什么能力”,转向“该用什么能力完成这项任务”。

2026科大讯飞全球1024开发者节开幕

端与云的边界,不再由“轻任务在本地、重任务上云”简单划定,而要同时考虑模型能力、数据权限、响应速度和部署成本。

这也是企业采用AI时越来越现实的需求。客户不需要在“全部上云”和“全部本地部署”之间二选一,而是希望系统能找到合适的执行路径:能在本地完成的,不必反复请求云端;需要更强能力的,也不能为了节省调用而勉强留在本地。

而在讨论端云分工之前,Token本身的经济逻辑已经先发生了变化。

2026年上半年,价格战一度将行业推向极端:通义千问主力模型输入价直降97%,腾讯混元以轻量模型免费开路,小米MiMo系列最高降幅触及99%,DeepSeek将V4-Pro价格永久锁定在原价的四分之一。

但Token价格并非只朝一个方向走。10月23日,中国信通院人工智能所等机构联合发布《大模型词元服务性能监测报告(2026年)》显示,国内大模型归一化平均服务价格已从2025年下半年的6.8元/千词元升至13.46元/千词元,涨幅接近100%;部分头部厂商在2026年3月一度报出不足0.01元/千词元的低价后被迫回调。大规模补贴性低价整体上开始退潮,说明“以低于成本的价格换调用量”作为一项长期策略本身并不可持续。

另一边,国家数据局数据显示,国内日均Token调用量已从2024年初的约1000亿,涨到2026年3月的140万亿,两年多时间膨胀一千多倍。

Token调用量暴涨

一边是价格先雪崩、后回调,一边是用量疯涨。这样的变动,比任何技术新闻都更早地宣告了一件事:AI厂商单纯卖Token的生意,到头了。 当Token从算力奢侈品变成水电煤,它就不再是护城河,只是人人都有的基础设施。而当补贴性低价退潮,粗放消耗Token的模式更不可能长期成立。

但一个反直觉的现实是:无论Token单价是降是升,企业的AI落地成本并没有显著下降。真正烧钱的从来不是Token单价,而是把一个任务从头做完的那一整套开销——材料要读、需求要拆、工具要调、结果要验、不对要重来。调用次数和上下文越堆越长,哪怕单个Token再便宜,完成一件完整业务的总账依然居高不下。

所以“省Token”跟省电省水不是一回事。

它省的不是单价,而是那一整套流程里被浪费掉的部分:不必要的云端请求、重复的上下文计算、无效推理导致的返工。这本质上不是省钱技巧,而是一道成本结构题。

Token只是计量单位,任务才是经营单位。星火X2.6与端云一体方案的观察价值,也不只是“能省多少Token”,而在于它能否让模型能力、资源投入与业务需求真正匹配。 

大模型能力提升,给AI落地打开了可能性。但能不能长期使用、能不能扩大部署,往往取决于另一件事:这种能力能否以可承受的成本持续提供。

对于需要交付行业产品的厂商,这个问题尤其直接。演示可以集中资源完成,日常服务却需要应对大量并发、长时间运行,以及不同客户的软硬件环境。模型越深入业务,工程效率就越难绕开。

科大讯飞给出了自己的解决方案。

星火X2.6云端采用总参数293B、激活参数30B的MoE架构,上下文能力拓展至百万Token;端侧则以4B轻量化模型承接本地任务,两者通过端云协同调度层连接。

这套架构要成立,必须同时解决两件事:云端提供更强能力时,不能让资源消耗失控;端侧规模更小,也要具备独立完成任务的能力。

云端的优化,主要体现在训练和推理环节。

面对长短任务混合训练带来的资源阻塞,讯飞采用适配国产平台的长程任务动态并行训练技术,对不同任务进行差异化调度。据讯飞官方披露的评测结果,在自身测试条件下,超长上下文训练效率提升约4倍。

星火X2.6首次基于全国产算力实现代码和智能体能力突破

推理侧,则结合国产异构算力分布式推理与四层KVCache技术。后者可以理解为对上下文计算结果进行分层存储:经常使用的放在更快的存储介质,不常使用的转移到其他层级,减少重复计算,同时缓解高速显存压力。

按照讯飞官方披露的评测结果,相关优化使国产芯片集群推理效率提升4.5倍,KVCache命中率从63%提高到95.7%。

全国首个国产化算力平台——飞星一号

这些指标不直接等于客户成本按同样比例下降,却说明了一点:AI降本不仅靠价格竞争,也靠减少每项任务背后的资源浪费。

端侧模型的能力,则决定端云分流是否真正有意义。

如果小模型只能做问答和摘要,遇到业务任务仍需把大部分工作转交云端,那么所谓端云协同,更多只是增加了一个入口。只有端侧能够读取材料、规划步骤、调用工具并完成执行,才有可能实质性减少对云端的依赖。

为此,讯飞在云端构建了代码和智能体教师模型池,端侧模型通过能力感知路由自动判断任务需求,并采用“端侧模型能力感知的自适应迭代后训练算法”,根据端侧能力动态选择教师模型、调整学习内容,以针对能力短板进行学习。据讯飞官方披露的评测结果,星火X2.6-4B在智能体(Agent)任务上的覆盖度达到41.9%,后续目标是提升至60%以上。

对国产AI而言,这也意味着自主可控之后还有下一道关口。自主可控保障供给与技术路线的主动权,工程优化则决定这些能力能否被更广泛地使用。

前者让企业有选择,后者让选择具有经济可行性。

即便云端足够强、端侧已经能干活,协同效果也不会自动产生。

哪些任务留在本地?端侧能力不足时如何升级?哪些信息允许上传?结果不确定时,应该在哪一步交还给人工?这些问题共同构成任务调度。

这类判断一旦出错,节省就可能变成新的负担。端侧能力不足却坚持执行,会增加返工与复核;简单任务频繁上云,则会引入不必要的调用、传输和等待。

端云协同的价值,不是让本地处理比例尽可能高,而是让任务尽可能少走弯路。

正如刘庆峰所说,用端云一体化来解决大模型安全性与极致性价比之间的矛盾。

讯飞端云一体协同方案支持端侧独立执行、云端独立执行和端云协同三类路径。其中,协同又包括“云指导端”和“端云分工”。

“云指导端”尤其能说明,数据的位置与能力的来源不必完全一致。例如,在满足保密要求、不向云端暴露敏感内容的前提下,可以由云端提供通用任务拆解与分析方法,再由端侧读取本地材料、执行具体步骤。企业借用的是云端的规划能力,而不是把原始资料交出去。

为了提高这类判断的准确性,讯飞把任务路由本身纳入训练:同一任务尝试不同执行路径,再根据结果评价形成反馈,迭代调度策略。据讯飞官方披露的结果,端云路由准确率从81.2%提升至96.1%。

相比单模型跑分,这个指标关注的是另一种能力:系统是否知道自己应该调用什么资源。

它也意味着,AI产品的竞争正在向系统层面延伸。

模型提供能力,调度决定能力如何被使用。对于数据高度敏感的业务,本地处理可能具有更高优先级;对于复杂推理密集的业务,云端占比也可能更高。合理的方案,应当从客户的任务结构出发,而不是先确定一个端云比例,再要求业务迁就。

因此,判断一套端云系统是否有效,最终仍要回到三个问题:结果质量有没有下降,完成任务的综合成本有没有改善,超出能力边界时能不能及时升级或交还人工。

厂商有动力减少Token消耗,原因并不难理解。

在设备采购、软件授权、年度服务包等模式下,收入往往先被合同确定,推理和服务成本却持续发生。每一次无效调用、每一轮重复处理,都可能侵蚀项目利润。提高资源效率,是产品能够长期运营的条件。

但客户的关注点不同。客户为结果付费,而不是为Token比价。

学校不会因为产品少调用几次云端就续购,企业也不会仅因模型参数更小就增加预算。它们关心的是:教师是否少做了重复劳动,员工是否少搬运了数据,业务是否更快完成,风险是否更容易被发现。

厂商节省的是资源,客户购买的是工作方式的改善。两者之间,需要完整的业务流程来连接。

教育场景能够说明这种差别。

星火智能批阅机M50将扫描、客观题批改、基础学情统计放在本地,减少教学业务对远程云端的依赖。“讯飞星光”超级AI教师助手则进一步覆盖备课、教研、答疑和家校沟通。据发布会披露的调研数据,其5分制满意度为4.7分,上线近一个月产出精品教学资源超过10万份。

星火智能批阅机M50 

这些数据体现了使用反馈,但产品能否持续减负,还要看前后环节是否衔接:批改得到的学情,能否用于下一次备课?错题识别之后,能否形成针对性练习?教师是否仍要在多个系统之间复制粘贴?

如果流程没有连接,新增一个AI工具,也可能意味着新增一项操作。

法律场景提出的要求则不同。

讯飞晓法超级法律助手覆盖案情梳理、证据校验、诉讼策略推演和文书起草,核心不只是生成速度,而是材料处理合规、结论可以追溯、专业人员便于复核。对于这类业务,安全与可核验性不是额外功能,而是进入工作流程的前提;最终的专业判断仍由人作出。

医疗也有相似逻辑。

据发布会披露,讯飞医疗参与建设的影像云平台累计服务量达2.6亿次,安徽地区AI辅诊结果医生采纳率超过75%,广西、安徽等地院端影像资料共享率达到40%以上。

讯飞医疗参与建设的广西医保影像云平台

影像共享不能直接证明端云大模型的效果,却提示了一种更实际的价值标准:技术最终要减少业务中的障碍。对患者而言,跨院就诊能否方便调阅资料、能否减少不必要的重复检查,比底层调用多少Token更重要。

到了企业办公环境,这个问题会进一步放大为个人效率与组织效率之间的差距。

一个员工用AI写报告更快,不代表部门决策更快;开发人员生成代码更快,也不代表产品交付周期同步缩短。如果审批、数据、权限和岗位协作仍然割裂,单点提效就难以转化为整体产出。

讯飞星帆WinWork数字员工平台试图处理的,正是这一层问题:通过搭建企业本体,将业务规程、数据库与专家经验组织起来,使数字员工在既有权限和规则下参与任务规划与执行。

发布会披露,相关研发场景中,AI带来的个人提效可达60%—80%,传统模式下企业端到端业务提升仅为20%—30%;依托WinWork串联多岗位协作后,组织整体提效可提升至50%以上。此外,端云协同方案可节约约44%的Token消耗,平台规划提供80余类开箱即用数字员工。

这些比例仍需结合具体场景、基线与统计口径理解。相比数字本身,更值得关注的是评价对象的变化:从某个人完成一个动作有多快,转向整项业务能否更顺畅地结束。

这也是AI产品商业化更难、却更有价值的一步。

单点功能容易展示,跨岗位协作才真正考验交付能力,因为它涉及企业自身的数据、制度和责任边界。模型必须进入这些真实约束,才能从辅助工具变成稳定的生产能力。

科大讯飞这些尝试,最终落到“以国产AI创造社会价值”这一归宿,让服务民生刚需、赋能千行百业不再是AI圈里的一句空话。

当模型调用越来越容易,企业使用AI为什么仍然不简单?

因为拿到模型能力,只完成了应用建设的一部分。开发者还要处理数据治理、任务编排、部署适配、安全控制、行业知识与效果评测。这些工作往往不如模型演示直观,却决定产品能否上线、能否维护,以及出了问题由谁处理。

刘庆峰在大会上提出的“Token就是Solution”,更适合被理解为一种交付目标:厂商提供的不应止于模型输出,还应尽可能缩短从调用接口到完成业务的距离。

科大讯飞董事长刘庆峰

为了打造开放繁荣的开发者生态,科大讯飞提供从模型调用到应用开发的多层次支持。

星辰TaaS平台尝试将模型调度、智能体引擎、工程工具与行业方案封装起来,减少开发者重复搭建基础能力的工作。从商业角度看,这一步关系到AI厂商能否跨越一个长期存在的矛盾:客户需要贴合自身业务的方案,厂商又不能让每一个项目都从头定制。

如果每进入一家企业,都要重新梳理数据、重建流程、反复调试,模型推理省下来的成本,可能很快被实施与运维支出抵消。只有把可复用的能力沉淀为工具、模板和标准接口,同时保留必要的行业适配空间,规模化交付才有可能成立。

因此,星火X2.6与端云一体方案所尝试建立的,是一条相互衔接的路径:底层优化降低能力供给成本,端侧模型扩大本地执行范围,任务路由协调端云资源,行业产品再把这些能力接入具体流程。

“省Token”不是少用AI,而是减少无效的能力调用,让资源投入与业务价值更加一致。

从这个意义上说,科大讯飞试图把竞争焦点从“模型有多大”移向“任务完成得怎样”。而这条路径的真正考验,也正在从发布会转向真实业务中的持续使用与规模化交付。

文章标签大模型智能体

资讯来源:由AI资讯编辑整理自互联网公开内容,版权归原作者所有,未经许可,不得转载。