Token导航 LogoToken导航

AI 资讯 · 科技行者

AI助手被动响应模式引质疑

更新 2026-11-03科技行者正文 5502字阅读约 18分钟

凌晨十一点半,你还在改PPT,第二天一早要用。你的AI助手就安静地待在那儿,像个尽职尽责的客服,等你打字、等你提问、等你把需求一个字一个字敲出来。它不会主动说"我看你明天九点有会,要不要我先把大纲理一理",也不会说"你上周说的那个数据缺口,我查到资料了,要看看吗"。

它有的是时间,有的是算力,它就是不会自己动。

这不是科幻场景,这是现在几乎所有AI智能体的真实状态。KAIST和明尼苏达大学的一组研究者就在琢磨这件事:既然AI越来越聪明,越来越能干,为什么它还得等你开口才肯干活?他们写了一篇论文,把这个问题从头到尾掰开揉碎讲了一遍,还顺带搭了一个专门用来测试"主动性"的实验场。

这篇论文的核心判断特别直接:主动干活这件事本身不难,难的是干得恰到好处。

一、问题到底难在哪

先说一个容易被忽略的事实:做得多不等于帮得多。

论文里举了个很扎心的例子。假如你的AI助手半夜偷偷帮你写了份报告,内容还挺对,但它选错了时间——你第二天一早正忙着别的急事,结果发现还得先审这份报告,反而耽误了你。这份"正确"的工作,反倒成了负担。

论文管这种情况叫"净效用为负的主动性":对的事情,用错了方式去做,结果比什么都不做还糟。

这就引出了这篇论文最核心的框架,三个英文首字母缩写(论文里叫3T):

任务能力(Task Capability,缩写TC)*:指AI能不能猜准你需要什么,并且把活干对、干好。

时间分配(Temporal Allocation,缩写TA)*:指AI知不知道什么时候该动手、什么时候该等着、什么时候该把活儿挪到你休息的时候再干。

信任(Trust,缩写TR)*:指用户对这个AI的信心,以及愿不愿意让它自己拿主意。

过去几乎所有研究主动式AI的工作,都只盯着TC这一项——能不能猜对你的需求、干得好不好。可论文指出,这远远不够。一个任务做得100分,但选错了时机、越过了用户设定的边界,照样会把事情搞砸。

这三者不是三个孤立的打分项,而是互相牵制的整体。打个比方,公司里新来一个特别能干的实习生,专业能力满分,但他总是在老板开会的时候插话汇报进度,还动不动就自己拍板该找谁对接客户——哪怕拍板拍对了,老板的信任也会一点点被消耗掉。能力强,不代表懂得分寸。AI也是一样的道理。

二、从"主动"到"恰到好处的主动":五个设计维度

论文接着往下拆,把"什么时候该主动、主动到什么程度"这件事,细化成了五个具体的设计选择,研究者管它叫"设计空间"。

第一个维度是任务范围:AI主动帮的这件事,是你当前正在做的事情的延伸(叫"任务内"),还是完全另开一摊的别的事情(叫"任务外")?比如你正在改代码,AI顺手修了同一个流程里的另一个bug,这是任务内;但如果AI突然去帮你查明天会议该准备什么材料,这就是任务外了。

第二个维度是预判时间窗:这个需求是现在就要(立即),还是今天晚些时候要(本次交互内),还是得过了今天才会用到(跨交互)?

第三个维度是触发方式:是用户直接提了要求才触发(用户触发),还是外部事件触发的(比如日历提醒弹出来了),还是AI自己主动巡视发现的(AI触发)?

第四个维度是处理时机,这个概念挺关键,论文专门造了两个词:

交互时间与休眠时间*:交互时间是指用户正活跃、正在用AI的那段时间,这时候AI干活会跟用户抢资源(比如抢GPU、抢你的注意力);休眠时间是用户不在、暂时用不上AI的那段空闲期(比如你睡觉的时候),AI这时候干活不会打扰任何人。

这个区分特别像公司里值夜班的运维同事。白天系统繁忙,谁都不想让维护脚本占着服务器资源跑;可到了凌晨三点,没人在用系统,正是跑批量任务、做数据备份的黄金时间。如果AI分不清"现在是白天还是夜里",非要在你开会抢着资源的时候去跑一个耗时的分析任务,哪怕分析结果再准确,你当时的体验也是被打断、被拖慢。反过来,如果AI能学会把这类不紧急的活儿挪到你休息的时间段去做,第二天一睁眼直接拿到成品,这种体验的差距,和前者完全是两个世界。

第五个维度是干预深度,这里论文借用了一个叫"IP连续体"的老概念,拆成三档:

干预深度三档*:准备(prepare)指AI只是默默收集或整理好材料,不拿出来也不动手;建议(suggest)指AI把做好的东西摆出来,等你确认;执行(execute)指AI直接动手办了,不用你再点头。

这三档对应着不同的信任水位。一个刚认识没多久的新同事,你大概率只信任他做"准备"工作,比如帮你搜集一下资料;合作久了,你可能愿意让他直接给你"建议"方案;等彻底磨合明白了,你才会放心让他"执行"——直接帮你把事情办了。AI和用户之间的信任,也得经过这样一个台阶一个台阶往上走的过程,不能一上来就指望用户全盘放权。

三、PROACTIVITY-GYM:一个专门用来"压力测试"主动性的虚拟世界

光有理论不够,研究者搭了一个叫PROACTIVITY-GYM的测试场,专门拿来考验各种AI模型在真实场景里到底能不能把"主动性"这件事做好。

这个测试场有点像一个微缩版的真实生活模拟器。里面包含十个横跨不同领域的多日场景,覆盖科研、旅行、搬家、饮食、求职、商业、学习、理财、购物、医疗十个方向,每个场景跨越七到十个模拟天,里面塞满了带时间戳的事件、任务、工具调用,还有一个会说话、会反馈、会记仇(会累积信任变化)的模拟用户。

这个模拟用户不是随便聊两句就完事的,它背后设定了三种不同性格的用户画像:一种叫"审阅者",什么都要先过目才能动手;一种叫"规划者",允许AI先把方案准备好,但动手之前还得问一声;还有一种叫"操作者",对特定的事情直接放权让AI去办。同一个任务,碰上不同性格的用户,AI该给出的干预深度是不一样的。

研究团队用这个测试场,跑了23种不同的模型加框架组合,包括GPT系列、Claude系列、Qwen系列、Gemma系列这些主流模型,配上OpenClaw、Claude Code、Codex三种不同的运行环境(论文里叫"harness")。

智能体框架(Harness)*:指承载大模型运行、负责调度工具调用、管理权限和记忆的外部系统,相当于给AI大脑配了一套手脚和神经系统。

结果非常打脸。就算是表现最好的Claude Opus 5,在任务能力这一项(满分100)能拿到65.1分,可一到时间分配这一项,瞬间掉到51.7%;干预深度匹配度也只有52.4%。换句话说,哪怕是目前最强的模型,也差不多有一半的时候,在该等的时候冲上去了,或者在该主动的时候傻等着。

而其余所有模型在时间分配这项上,全部不到20%。这意味着绝大多数AI,压根不具备"把不急的事情挪到合适时间段再处理"的能力,它们要么一股脑全都立刻去做,要么干脆啥都不管。

四、更扎心的发现:AI评委和人类评委的判断根本对不上

这篇论文还做了一件很有意思的事:他们同时用AI当裁判(论文里叫LLM-as-a-Judge,让大模型给另一个AI的回答打分)和真人评委(找了30个真实参与者做调研),看看两边对同一个场景的判断是否一致。

结果差异之大,超出了研究者的预期。

AI评委给出的信任评分,跟任务做得对不对高度相关(相关系数r=0.70),却几乎看不出跟干预深度是否匹配有什么关系(相关系数仅0.23)。也就是说,只要AI把事情做对了,AI评委就倾向于给它打高信任分,哪怕这个AI压根没按用户要求的方式来——该问的时候没问,该自己拿主意的时候又磨磨唧唧地去问。

但人类评委完全不是这么想的。

参与调研的30个人里,在内容质量完全一样的两个方案之间,有88.3%的人选择了那个遵守了用户干预深度偏好的AI,哪怕它的内容质量稍微差一点。有个参与者的原话特别直白:"我并不觉得最后造成了什么严重后果,但我的信任感还是下降了,因为它处理问题的方式和我说好的不一样。"

这就像你雇了个保姆,你再三叮嘱"任何重要决定都要先问我",结果有一天她自己做主把孩子的课外班退了,哪怕退得完全合理、没造成任何损失,你心里那根弦也会一下子绷紧——不是因为这件事本身错了,而是因为她越界了,而越界这件事,比对不对本身更让人不安。

五、信任这东西,垮得比建起来快得多

人类调研里还有一个特别值得单独拎出来说的发现,关于信任随时间变化的曲线。

研究者给参与者看了四段模拟一周的交互记录,分别对应AI"一直靠谱"、"反复不靠谱",以及中间穿插反复的几种情况。参与者在第2天、第4天、第7天分别打分,评估自己对AI的信任程度。

数据显示,一次干预深度不匹配,哪怕任务结果完全正确,也会让信任评分平均下降1.86分(满分5分制);而反过来,从不匹配回到匹配,信任只能回升1.27分。涨得慢、跌得快,这个不对称性非常明显。

更扎心的是,就算后面AI又连续表现得规规矩矩,信任也很难完全恢复到最初的水平。在一种"先靠谱、后出错、再靠谱"的交互序列里,信任最终只恢复到3.43分,比起最初的4.43分,仍然差了整整一分,哪怕参与者对最后一次的行为单独打分时给出了4.71的高分。

这就好比你跟朋友约好了某件事的分寸,对方一次没守住,后面哪怕连着十次都守规矩了,你心里那个"他上次破过例"的印象也不会轻易消失,你还是会多留个心眼。这不是理性计算出来的,是人之常情,而这篇论文用数据把这种"人之常情"实实在在地测量了出来。

六、时间分配,一个经常被忽视却极其重要的维度

人类调研里还有一个发现,我觉得特别有启发性,关于"什么时候干活"这件事本身的价值。

研究者设计了这样一个对比:同一份AI的辅助工作,一种是立刻给你,但得占用你正在用的资源、打断你手头的事;另一种是放到你休息的时间段去做,第二天早上你再看,哪怕内容还有点瑕疵需要你花点时间修正。

结果,参与者对"立刻给但会打扰"这种方案的接受率只有26.7%,而对"放到休息时间处理,哪怕需要修正"的方案,接受率飙到了97.8%,涨了整整71.1个百分点。

更有意思的是,哪怕立刻处理这件事根本不会占用参与者的资源、也不会耽误任何截止日期,只需要花十分钟审核一下,仍然有64.4%的人更倾向于把工作挪到休息时间去做。有个参与者说得很实在:"哪怕明天还得改一改,我现在也应该先专注在眼下的事情上,尽量把活儿交给AI去处理。"

这个发现其实在提醒我们一件容易被忽略的事:很多时候,用户纠结的根本不是"这件事值不值得打断我",而是"这件事能不能完全不打断我"。这正是论文反复强调的时间分配维度的价值所在,一份工作哪怕暂时不够完美,只要被安排在了对的时间出现,它给用户带来的体验,可能比一份完美但时机错误的工作要好得多。

七、这篇论文留下的空白

论文最后也坦诚承认了局限。目前这个测试场里的资源约束和用户建模都还比较简化,比如任务时长是固定的,没有考虑算力预算随时间波动这种更复杂的情况。未来如果能把任务时长变得可变、让AI学会在算力紧张时重新排优先级,测试场会更贴近真实世界。

另外,现在的评估还是在模拟环境里跑的,真实部署中AI的主动行为会怎样影响用户长期的工作习惯和信任走向,这还需要更长周期、真实场景下的观察才能说清楚。

写在后面

读完这篇论文,我印象最深的其实不是那些具体的技术设计,而是一个特别反直觉的现象:AI评委和人类评委,在同一批测试样本上,得出的判断居然差这么多。TC和TR-J之间相关系数高达0.70,TC和TR-D之间却只有0.31到0.34,这说明现在用AI给AI打分的那套评测体系,可能一直在悄悄忽略一个人类极其在意的维度,就是"你有没有越界"。

这事儿让我想到一个问题:我们现在用来衡量AI好不好用的那些自动化评测指标,到底有多少是在真正衡量用户体验,又有多少只是在衡量"任务完成度"这个更容易量化、但未必是用户最在意的东西?如果连专门设计来评估主动性的AI评委,都会系统性地忽略干预深度这件事,那在更日常、更不经意的产品评测场景里,这种偏差会不会被放得更大?

另一个让我反复琢磨的点是信任的不对称性,涨得慢、跌得快,而且跌了之后很难完全回到原点。这不只是AI产品要面对的问题,几乎所有依赖持续信任关系的系统都有这个特性。论文里那句"一次出错之后,AI得连续表现良好很长一段时间才能把信任挣回来",读起来像是在说AI,其实说的也是人与人之间信任建立的普遍规律。

这篇论文没有回答的问题是:如果AI真的要学会判断"什么时候该主动、主动到什么程度",它需要积累多少次和具体某个用户的真实互动,才能摸清这个人独特的边界感?这件事恐怕没有一个通用答案,每个人对"被打扰"和"被越界"的容忍度都不一样,而这恰恰是现在所有通用型AI助手最难解决的地方。

Q&A

Q1:论文提出的3T原则具体指什么?

A:3T指任务能力(TC,能不能猜准需求并做好)、时间分配(TA,知不知道何时该做何时该等)、信任(TR,用户对AI的信心和愿不愿意放权)。论文认为过去的研究只关注TC,忽略了TA和TR同样重要,三者需要联合优化才能让AI的主动帮助真正有价值。

Q2:PROACTIVITY-GYM是用来做什么的?

A:它是论文搭建的一个模拟测试场,包含十个跨领域的多日场景和三种性格不同的模拟用户,用来评估AI在真实复杂情境下能否恰当地判断该不该主动、该什么时候主动、该主动到什么程度,而不只是看它能不能把单次任务做对。

Q3:为什么AI做对了事情,用户的信任反而会下降?

A:因为用户在意的不只是结果对不对,还在意AI有没有按照约定好的干预方式来做事。调研显示,一次干预深度不匹配会让信任平均下降1.86分(满分5分),哪怕任务结果完全正确,而且信任很难靠后续表现完全恢复到原来的水平。

文章标签AI产品

资讯来源:由AI资讯编辑整理自互联网公开内容,版权归原作者所有,未经许可,不得转载。