你有没有遇到过这种情况:手机上装了个AI助手,让它帮你订个会议、查个邮件,结果它要么卡在那儿不知道怎么办,要么干脆把你的邮件内容一股脑发到了不知道哪个服务器上去处理。
这不是你的错觉。这正是这篇论文想解决的事。
**手机里跑的AI,先天就比较笨**
现在的手机、平板这类边缘设备,为了省电省内存,跑的AI模型普遍不大,通常不超过100亿参数。这种规模的模型,干点简单聊天没问题,但碰到需要多步骤规划、调用好几个工具的复杂任务,就容易掉链子。
而云端的大模型呢,能力强得多,但调用一次就要把数据传出去,传输延迟和费用都不低,更麻烦的是,你的邮件、日程、聊天记录这些隐私信息,也跟着一起传出去了。
于是行业里的自然想法就是:让小模型和大模型搭伙干活。简单的交给手机本地处理,搞不定的扔给云端。这个思路听着挺合理,但问题在于,过去几乎所有相关研究,都把这件事想得太简单了。
**长任务里,云端参与不是一锤子买卖**
这里要先弄清楚一个关键区别。
> 边缘模型:部署在手机、平板等本地设备上的轻量级大语言模型,参数量通常不超过100亿,优点是响应快、不用联网、数据不出本地,缺点是能力有限。
云端模型:部署在远程服务器上的强大语言模型,能力远超边缘模型,但每次调用都要传输数据,产生延迟、费用和隐私风险。
以前的研究,基本都是把"要不要用云端"当成一次性的决定:来了一个问题,判断一下难度,简单的本地做,复杂的直接甩给云端,决定一次就完了。这种模式有个专门的名字。
> 路由(Routing):一种一次性的分配机制,根据输入内容的难度,把整个任务指派给边缘模型或云端模型处理,中途不再调整。
但真实世界里的AI代理任务,根本不是一问一答那么简单。
你让AI帮你"整理一下这周的会议安排并发邮件通知所有人",这个任务可能要拆成十几个步骤:读邮件、查日历、比对时间、写草稿、发送确认。每一步的难度都不一样,有的步骤边缘模型轻松搞定,有的步骤它完全摸不着头脑。
如果只能在任务开始时做一次路由决定,那这个决定要么太保守(明明后面有简单步骤也全扔给云端),要么太冒进(前面简单步骤顺利,后面突然卡住却没法求助)。
这就好比你去医院看病,挂号的时候护士只看你填的症状表就决定你归哪个科室,之后无论检查结果怎么变化,你都只能在这个科室里耗着。如果检查过程中发现情况复杂了,需要转诊专家,但系统压根没设计"转诊"这个环节,那后续的诊断质量可想而知。
这就是论文指出的核心空白:现有的评测体系,几乎都在研究"一次性路由决策准不准",却没人系统研究,当云端参与变成贯穿整个任务执行过程、走走停停的事情时,会产生什么样的连锁反应。
**三个问题,串起整篇论文**
研究团队把这件事拆成了三个层层递进的问题。
第一,边云协作这种模式,在真实的长任务场景里,到底值不值?这得同时看任务完成得好不好、花了多少资源、泄露了多少隐私,三个维度一起权衡,不能只看一个指标。
第二,当边缘模型自己变强了(比如从20亿参数升级到270亿参数),协作执行会发生什么变化?是不是边缘模型越强,云端就越没必要掺和了?
第三,既然边缘能力在变,协作的"打开方式"是不是也得跟着变?原来适合弱边缘模型的协作策略,放到强边缘模型身上还管用吗?
为了回答这些问题,研究团队搭了一套叫EC?-Bench的评测系统。
评测台是怎么搭起来的
要研究边云协作,首先得有一批能真正"跑起来"的任务,而不是那种一问一答就结束的测试题。
研究团队从六个现成的代理任务评测集里(包括Claw-Eval、WildClawBench等)挖了一批候选任务,这些任务都要求AI在一个模拟的数字工作环境里,通过操作邮箱、日历、文件系统之类的应用,完成一个有明确目标和可验证结果的复杂工作。
但光有任务还不够,得筛选。
团队先用纯边缘模型和纯云端模型分别跑一遍每个任务。如果两种方式都能轻松搞定,这个任务就没有区分度,删掉。如果两种方式都搞不定,说明任务太难,留着也没法看出协作效果,也删掉。
这个筛选逻辑其实挺讲究的。
就像考试出题,如果一道题所有学生不管用什么方法都能做对,或者所有学生不管多努力都做不出来,这道题对区分学生水平毫无意义。只有那种"用简单方法做不出来,用高级方法能做出来"的题目,才能真正检验出方法之间的差异。
筛选完剩下128个可执行任务,覆盖办公日常、信息搜索、安全合规、开发运维、数据分析、自动化等六大类场景。
接下来是隐私标注这部分,这是整篇论文设计里我觉得挺用心的一个环节。
> 敏感信息单元(Sensitivity Unit):指标注在工作环境中的一条原子级敏感信息,比如一个人的电话号码、一段密码、一笔财务数据,每条都能追溯到具体的文件或应用记录来源。
团队先标注工作环境里本来就存在的敏感信息,再用大模型辅助生成一批逼真的合成敏感内容,插入到相关文件里,同时确保不改变任务本身的目标和评判标准。最后还专门找人核验,这些合成的敏感信息听起来真不真实、摆放的位置自不自然。结果显示,内容真实度和位置自然度的评分都在4.6分左右(满分5分),说明这批"假数据"骗过真人的眼睛问题不大。
有了任务和隐私标注,评测系统从三个维度给每次执行打分。
任务完成度,看AI到底有没有把事情做对、做全。
资源消耗,云端这边统计输入输出用了多少token、花了多少钱,边缘这边估算做了多少浮点运算。
隐私暴露,看有多少敏感信息单元被传到了云端。
**四种协作模式,各自代表一种"控制权"的分配方式**
论文里测试了四种边云协作策略,它们的核心差异在于:谁来决定什么时候找云端帮忙,以及云端被找来之后扮演什么角色。
第一种叫查询路由(Query Routing)。
任务开始前,由一个外部的小模型(路由器)看一眼任务描述,判断这活儿该交给边缘还是云端,决定一次就不再变了,整个任务从头到尾都由选中的那个模型执行。
第二种叫逐步路由(Per-step Routing)。
这个比上一种细致一点,每一步都重新判断一次,根据任务描述和已经执行过的历史,决定这一步是边缘模型顶上还是切到云端。路由器会观察边缘模型生成下一个词时的"犹豫程度"(专业说法是熵),犹豫得厉害就交给云端。
第三种叫边缘控制的云端委托(Edge-Controlled Cloud Delegation)。
这个思路有点意思:与其让外部路由器猜测,不如直接把决定权交给边缘模型自己。边缘模型手里有个"求助工具",它觉得哪一步搞不定了,就主动调用这个工具,把当前的执行历史打包发给云端,云端直接接管生成下一步动作,干完再把控制权还给边缘模型。
第四种叫边缘控制的云端顾问(Edge-Controlled Cloud Advisory)。
同样是边缘模型自己决定什么时候求助,但云端这次不直接动手,只给建议。边缘模型把问题甩过去,云端返回一些思路、提示或者修正意见,边缘模型拿着这些建议自己决定怎么做,最终的操作还是边缘模型自己执行。
> 默认执行权(Default Execution):在边缘控制的两种模式里,任务默认一直由边缘模型执行,只有在边缘模型主动触发求助工具时,云端才会短暂介入某一步,介入完成后控制权立刻交还边缘。
这四种模式的差别,其实对应着一个很朴素的生活逻辑。
想象你在公司里碰到一个棘手的问题,有两种求助方式。第一种是公司有个专门的分流员,他根据你报的问题类型,决定把你转给普通客服还是专家顾问,这个决定做完你就只能跟着走。第二种是你自己判断,先试着自己处理,实在搞不定了主动去敲专家的门,专家要么直接替你把事情干了,要么只给你支几招让你自己接着干。
如果用第一种方式,分流员不了解你实际操作中遇到的细节,很容易误判,要么你明明能自己搞定却被转去麻烦专家,要么你真卡住了却没能及时转过去。如果用第二种方式,因为是你自己最清楚卡在哪儿,理论上求助的时机会更准。但这又依赖一个前提,你得有足够的判断力知道自己什么时候真的需要帮助,而不是动不动就喊专家,或者该喊的时候死扛着不喊。
这正是论文第三部分想验证的东西:边缘模型的判断力,是不是真的会随着它自身能力变强而变强。
协作到底值不值?数字说话
先看第一个问题的答案。
论文用了四档边缘模型:20亿参数的Qwen3.5-2B、90亿参数的Qwen3.5-9B,这两个代表当前主流的手机端部署规模;270亿参数的Qwen3.5-27B和更强的Qwen3.7-Plus,这两个用来模拟未来更强的边缘模型。云端那边主要用GLM-5.3。
纯边缘执行的表现惨淡。20亿参数模型的任务完成度只有12.75%,90亿参数的也才39.12%。纯云端执行呢,GLM-5.3能做到82.70%。两者差距巨大。
关键是看协作模式能不能在这两极之间找到一个划算的平衡点。
以20亿参数边缘模型搭配逐步路由为例,任务完成度从纯边缘的12.75%跳到了39.97%,提升非常明显,而花费的云端成本只有纯云端执行的22.7%。
这个数字意味着什么?
意味着你不用全程雇一个专家顾问跟着,只在关键时刻请教几句,就能把工作质量拉高两倍多,代价却只有雇全职顾问的五分之一不到。这买卖划算。
但研究团队没有止步于"协作比两个极端都好"这种浅层结论,他们进一步追问:协作带来的提升,是不是仅仅因为"按比例混合"了边缘和云端?换句话说,如果把边缘和云端的表现做个线性插值当作参照线,协作策略是不是真的比这条参照线还要高?
结果是肯定的。多个协作配置的表现点,落在成本-性能和隐私-性能两张图的参照线上方,说明协作带来的收益超出了简单按比例混合的预期。这说明协作不只是在"分摊",而是真的在创造额外价值,比如云端介入的时机选得准,能起到四两拨千斤的效果。
边缘模型变强之后,风向变了
接下来看第二和第三个问题,这两个问题其实是一体两面。
随着边缘模型从20亿参数升级到Qwen3.7-Plus级别,最好的协作配置完成度从39.97%一路涨到76.84%,已经非常接近纯云端的82.70%。这说明边缘模型越强,协作执行就越能摸到云端的天花板。
但有一个发现特别值得琢磨:不同协作策略之间的性能差距,会随着边缘模型变强而大幅收窄。
用20亿参数模型时,四种策略里完成度最高和最低的差了25.22个百分点,选错策略代价很大。换成Qwen3.7-Plus之后,这个差距缩小到只有3.67个百分点,选哪种策略好像都差不多了。
但隐私暴露这条线完全不按这个剧本走。
在Qwen3.7-Plus这一档,四种策略的任务完成度只差3.67%,隐私暴露程度却相差66.23%之多。
这组数字放在一起看特别扎心。意思是说,等边缘模型足够强了,你选哪种协作策略,任务做得好不好基本没区别,但你的隐私安不安全,完全取决于你选了哪种协作模式。这就像两家餐厅味道差不多,一家把你的点餐记录锁在保险柜里,另一家写在黑板上让所有人都能看见,你选哪家?
这个发现提醒我们一件容易被忽略的事:性能趋同不等于风险趋同。当大家都觉得"反正模型都差不多强,随便选个协作方式"的时候,隐私这道题其实还没有被回答。
再看控制权和角色分配这两个维度怎么随边缘能力变化。
当边缘模型弱的时候(比如20亿参数),外部路由(逐步路由39.97%)明显比边缘自己说了算(边缘控制委托15.86%)更靠谱。弱模型自己都分不清什么时候该求助,与其让它自己判断,不如让外部的专门路由器来把关。
但这个局面会反转。
随着边缘模型变强,边缘自己做决定的效果逐渐追上甚至超过外部路由。而且在云端扮演的角色上也有类似的转变:弱边缘模型更依赖云端直接接管干活,强边缘模型反而更偏好云端只给建议、自己动手执行。
这个反转背后藏着一个挺深刻的逻辑。弱模型连"我哪里不会"都搞不清楚,这时候外部有个旁观者帮它把关,反而更稳妥。强模型已经具备了基本的自我诊断能力,这时候外部路由器的那套"一刀切"判断规则,反而可能不如模型自己对当下执行状态的直接感知来得精准。
为什么强模型更擅长自己判断?
这个转折点背后到底是什么能力在起作用?研究团队专门做了两组对照实验。
第一组实验叫云端求助决策能力测试。
因为没有现成的标准答案告诉你"这一步到底该不该叫云端",团队设计了一个巧妙的对照组:先让边缘模型自主决定何时调用云端,记录下它实际的调用频率,然后构造一个随机调用基线,保持同样的调用次数,但调用时机完全随机挑选。
两边获得的云端帮助总量一样,唯一的区别是,一个是模型自己挑的时机,一个是瞎蒙的时机。
结果,20亿参数模型下,自主判断比随机调用只高出1.2个百分点,差别很小,说明弱模型挑的时机跟瞎蒙差不多。但到了270亿参数和Qwen3.7-Plus,这个优势扩大到3.0到4.4个百分点。
这说明什么?说明随着边缘模型变强,它越来越能识别出"这一步我真的需要帮助"的信号,而不是乱喊救命或者硬撑到底。
第二组实验更有意思,是关于指令遵循能力的。
> 指令遵循能力(Instruction Following):指模型准确理解并执行给定指令中具体要求的能力,比如要求输出特定格式、遵守特定约束条件时,模型能不能老老实实照做。
团队从20亿参数模型出发,专门做了一轮针对指令遵循能力的强化学习训练,训练了600步,然后在固定的云端顾问模式下(云端建议固定每五步介入一次,不是模型自己决定)测试不同训练阶段的表现。
结果发现一个挺有说服力的现象:随着指令遵循能力在训练中持续提升,模型在纯边缘单独执行时的表现几乎没有变化,但在云端顾问模式下的任务完成度却从24.8%稳步涨到28.8%。
这意味着,指令遵循能力本身并没有让模型变得"更聪明",而是让模型更会"听劝"。云端给出建议之后,模型能不能老老实实按照建议去做,而不是听完建议还是我行我素,这件事恰好是指令遵循能力在负责的部分。
这就像带新人实习,有的新人悟性一般但特别听师傅的话,师傅一提点就立刻改;有的新人反应快,但师傅说完他该怎么干还怎么干。前者在有导师在场的情况下反而会进步更快,因为他能真正把别人给的建议用上,而不是建议归建议、行动归行动。
这件事还留下了什么空白
论文做到这里,已经把边云协作这件事从"笼统地说挺好"推进到了"在什么条件下好、哪种模式适合哪种边缘能力、好在隐私和成本的哪个维度",这是个扎实的推进。
但读完之后,有几个点挺值得继续琢磨。
论文选的云端模型都是能力级别相近的强模型(GLM-5.3、DeepSeek系列),如果把差距拉得更大,比如用一个能力弱得多的云端模型搭配强边缘模型,协作模式的选择逻辑会不会完全不一样?毕竟这篇论文里"云端永远比边缘强"这个前提,未必在所有场景下都成立。
另外,隐私暴露的计算方式是"有没有被发送到云端",但现实世界里,数据发出去之后,云端服务商怎么存储、是否会被二次使用,这些环节的风险这篇论文并没有覆盖,这其实是另一层更深的隐私问题,值得单独拿出来研究。
还有一点,论文发现指令遵循能力和求助决策能力是边缘模型变强之后协作变好的两个关键因素,但这两种能力目前主流的边缘模型训练流程里,并不是被专门优化的目标。换句话说,现在市面上的小模型,可能在"聊天聊得好不好"上卷得很厉害,但在"知道什么时候该闭嘴求助、求助后能不能听劝"这件事上,基本是无心插柳。
如果以后有团队专门针对这两个能力去做训练,边缘模型会不会在更小的参数规模下,就提前达到现在270亿参数模型才有的协作水平?这个问题,这篇论文没有回答,但它把问题提得很清楚了。







