你有没有想过,问一个AI模型今天是几号,这个看似无关紧要的问题,竟然能决定它做数学题时会不会算错?
这听起来像个笑话,但德国美因茨大学的研究者们真的把这件事做成了一篇严肃的论文,而且结论相当让人不安。他们发现,当你用完全相同的问题去问同一个AI模型,唯一变化的只是系统提示里偷偷塞进去的日期,模型的答题准确率能上下浮动好几个百分点,排行榜的名次也会跟着洗牌。
一个藏起来的日期,谁都没注意到
先说说这件事是怎么被发现的。
现在主流的大语言模型在回答问题之前,系统会自动往对话里插入一段看不见的文字,告诉模型"今天是几号"。这不是用户写的,用户也看不到,但模型知道。
**大语言模型(LLM)**:一类通过海量文本训练出来的人工智能系统,能理解和生成自然语言,比如回答问题、写代码、翻译文本,像GPT、Llama、Qwen这些都属于这一类。
你可能觉得这挺合理的,AI毕竟得知道现在是什么时候,才能正确回答"明天是周几"之类的问题。研究者也验证了这个机制确实存在:他们直接问GPT-5.1"今天几号",在完全没有联网、没有调用任何工具的情况下,模型准确报出了日期。这说明日期是在用户看不见的地方被服务器悄悄塞进去的。
问题是,这个日期每天都不一样,而评测AI性能的标准数据集,比如用来测常识问答的MMLU、测数学能力的GSM8K,里面的题目跟日期压根没有任何关系。研究者专门用AI检查了一遍所有测试题,确认没有一道题的答案依赖于当前时间。
按理说,既然题目内容跟日期无关,换个日期测试,模型的得分应该纹丝不动才对。可现实恰恰相反。
换个日期,排行榜就能洗牌
研究团队测试了9个主流模型,包括Llama 3.1、Gemma 3、Qwen3、Phi-4、GPT-OSS等,横跨选择题问答、数学推理、代码生成、机器翻译四大类任务,把2024年全年365天的日期都轮着测了一遍。
结果是什么呢?在选择题类的测试里,准确率差值最高能到6%。数学推理题更夸张,差值能到14%。代码生成任务,哪怕是用跑单元测试这种铁打的客观标准来判断对错,也能有7%的波动。机器翻译的BLEU分数(一种衡量翻译质量的指标,分数越高说明翻译越接近人工翻译的标准答案)差了将近3分。
**MCQA(多选题问答)**:Multiple-Choice Question Answering的缩写,就是给模型几个选项让它选一个正确答案的测试形式。
**pass@1**:评价代码生成能力的指标,衡量模型第一次生成的代码能否直接通过所有测试用例。
**BLEU和chrF**:都是衡量机器翻译质量的自动评分指标,通过对比机器翻译结果和人工翻译的参考答案的相似程度打分,分数越高越好。
论文里给了个很直观的例子。在MMLU测试的排行榜上,6月26号这一天排名第一的是Qwen3-Next,第二是GPT-OSS(120B)。结果到了6月27号,仅仅过了一天,排名第一变成了GPT-OSS(120B),Qwen3-Next掉到第二。什么都没改,只是日期往前走了一天,冠军就换人了。
这就好比一场马拉松比赛,所有选手的实力、赛道、规则都完全一样,唯独计时员每天换一块走时不准的手表。你看到的名次变化,根本不代表谁跑得更快了,纯粹是手表的问题。如果不把这块表校准,你永远没法知道真正的冠军是谁。
为什么日期越"自由发挥",影响越大
这篇论文最有意思的发现之一,是日期带来的干扰在不同任务类型里表现差异巨大,而这个差异背后藏着一个关于AI工作原理的关键线索。
在选择题测试里,模型做判断的方式其实很简单粗暴:它只需要比较几个选项对应的那个词被选中的概率大小,概率最高的就是答案。这个过程只涉及一次计算,日期这种干扰信息能影响的空间很小,所以差值"只有"2%到6%。
但数学推理题不一样。模型得先一步步写出解题过程,才能得出最后的数字答案。这是一个**自回归生成**的过程。
**自回归生成**:指模型生成文字时是一个词接一个词往后推的,每生成一个新词都要参考前面已经生成的所有内容,这意味着前面任何一点微小的偏差都可能被不断放大,影响到后面所有的输出。
这就像多米诺骨牌,日期信息作为开头的一个小扰动,影响了模型选择的第一个推理步骤的措辞,而这个措辞又影响了下一步,一步步传导下去,最后导致完全不同的解题路径和答案。研究者发现这正是数学推理任务差值能飙到14%的根本原因,生成的内容越长,日期这个"幽灵"就越有机会在中途插手搅局。
你可以想象一下写作文的场景。如果你只需要在"对"和"错"两个字之间选一个,哪怕心情稍微有点浮躁,大概率也不会选错。但如果要写一整篇作文,开头第一句话的情绪稍微有点不对劲,整篇文章的走向都可能完全跑偏。这不是夸张的比喻,而是自回归生成机制决定的必然结果:第一个词选错方向,后面没有办法自动纠正回来。
更让人意外的是,研究者原本猜测,如果让模型用**思维链(CoT)**方式一步步推理,应该能让它更"理性",减少被日期这种无关信息干扰的概率。
**思维链(Chain-of-Thought,CoT)**:一种提示技巧,要求模型在给出最终答案前先写出详细的推理过程,类似人类做题时打草稿的过程,通常被认为能提升模型在复杂任务上的表现。
但结果完全相反,开了思维链之后,日期的干扰反而更严重了。研究者用Llama 3.1在MMLU上做对比实验,零样本直接作答时准确率波动范围是一个区间,开启思维链后,波动的幅度变得更大。这其实印证了前面那个多米诺骨牌的逻辑,思维链本质上是在生成更长的文本,给了日期这种干扰信息更多"下手"的机会,而不是更少。
研究者还试了另一个常见的补救办法,**少样本提示(few-shot prompting)**,也就是在问题前面先给模型看几个示范的问答案例,期望用具体的例子把模型"拉回正轨"。
**少样本提示(few-shot prompting)**:一种提示技巧,通过在正式问题之前提供几个已经解答好的类似例子,帮助模型更准确地理解任务要求。
结果呢,加了5个示范例子之后,平均准确率差值从零样本时的2.52%只降到了2.27%,几乎没什么改善。这说明这个问题不是靠"多给点提示"就能解决的表层毛病,而是模型本身对系统提示里任何细微变化都天生敏感。
这个干扰究竟有多严重,跟别的"老毛病"比起来
读到这里你可能会想,AI输出本来就有各种随机性吧,日期这点影响算得了什么大事?
这正是论文接下来要回应的问题。研究者专门把日期效应和其他几个已知会导致AI结果不稳定的因素摆在一起比较,包括推理时的批处理大小(batch size)、数值精度(用什么精度做浮点数计算)、运行用的GPU型号,还有选择题选项排列顺序的影响。
他们用一个叫**变异系数(CV)**的统计指标来做这个比较。
**变异系数(Coefficient of Variation, CV)**:标准差除以均值得到的比值,用来衡量数据的离散程度,数值越大说明波动越剧烈,这个指标的好处是能把不同量级的数据放在同一把尺子上比较。
比较结果显示,批处理大小、数值精度、硬件型号这些因素确实会造成一些波动,但影响程度都比日期效应要小。唯一能和日期效应打平手的,是选项顺序,一个学术界早就知道的经典问题,把选择题的ABCD选项打乱排列,同样会让模型给出不同答案。而日期这个因素,此前压根没人意识到它也在悄悄捣乱。
研究者还做了个很巧妙的对照实验。他们怀疑模型对日期敏感的根本原因,是模型在训练阶段(监督微调和人类反馈强化学习阶段)系统提示的格式是固定不变的,导致模型对系统提示里的任何风吹草动都特别敏感,日期只是恰好撞上了这个"敏感区"。为了验证这个猜想,他们把系统提示的措辞换了六种不同的说法,比如从"你是一个乐于助人的助手"换成"你是一个多选题问答专家",结果发现这种纯粹改写措辞带来的波动幅度,跟换日期带来的波动幅度几乎一模一样。
这就好比一个人对着镜子每天说不同的鼓励的话,结果发现无论说什么内容,只要是和平时不一样的话术,这个人当天的工作状态就会有轻微波动。问题不在于说了什么具体的话,而在于"和平时不一样"这件事本身。日期恰好每天都不一样,所以它恰好每天都在制造这种"和平时不一样"的扰动,只是用户完全不知道自己正在被这样扰动。
这个毛病连付费的商业模型也逃不掉
你可能会想,上面说的那些都是开源模型,像GPT-5.1这种大厂花大价钱调教出来的商业模型,是不是能聪明到不被这种小伎俩影响?
研究者也测试了这一点。他们连续一周(2025年12月3号到9号)用完全相同的设置调用GPT-5.1的API,系统提示留空,温度设为0(意味着模型应该给出最确定的答案),关闭推理功能。每一天都重复跑两遍,确认结果完全一致,排除了模型本身随机性的干扰。
结果显示,GPT-5.1同样没能幸免,在GPQA这个测试集上,准确率的波动幅度最高达到了4%。这说明日期敏感不是某几个开源小模型的训练缺陷,而是当前整个行业在设计这套"自动注入日期"机制时普遍存在的系统性问题。
研究者给出的解决办法
面对这个发现,论文给出的建议其实很朴素:能不注入日期就别注入,如果必须要日期功能,那就把具体测试用的日期固定下来,并且在论文或报告里明确写出来用的是哪一天。
研究者还做了个对照实验支持这个建议。他们测试了当系统提示里完全不包含任何日期信息时模型的表现,发现这种情况下的准确率和ECE(**期望校准误差**,一种衡量模型自信程度和实际准确率是否匹配的指标)数值,正好落在了全年365天波动范围的中间地带,不偏不倚。这说明去掉日期并不会让模型表现变差,只是让结果变得可以重复、可以比较了。
这就好比两个实验室要比较同一种药物的疗效,如果其中一个实验室测试当天恰好气温特别高,另一个实验室测试当天特别冷,两边的数据根本没法直接拿来比较优劣。唯一公平的做法,是把环境温度这种无关变量控制住,固定在同一个标准值,这样测出来的差异才真正反映的是药效本身的差异,而不是天气的差异。
有意思的是,论文附录里还顺手测了另一个类似的隐藏变量,用户地理位置。研究者把系统提示里的"用户所在地"从阿尔巴尼亚到越南换了上百个国家,发现这同样会造成和日期效应差不多量级的性能波动。这说明问题可能不仅仅是日期一个变量,任何悄悄塞进系统提示、用户看不到也控制不了的动态信息,都有可能埋下类似的隐患。
Q&A
Q1:为什么AI模型的系统提示里会偷偷加入当前日期?
A:是为了让模型能正确回答涉及时间的问题,比如"明天星期几"。但这个日期是服务器自动插入的,用户看不到也无法控制,而且每天都在变化,这就成了一个隐藏的干扰因素。
Q2:思维链提示和少样本提示能不能减少日期带来的干扰?
A:都不能。实验显示少样本提示几乎没有改善效果,而思维链提示反而让日期敏感性变得更严重,因为生成的文本越长,日期这个干扰信息就有越多机会影响后续的推理路径。
Q3:日期效应和批处理大小、GPU型号这些常见的不稳定因素比起来,哪个影响更大?
A:日期效应的影响比批处理大小、数值精度、GPU型号这些因素都要大,只有选择题选项顺序这个已知问题和它影响程度相当。







