本文来自微信公众号： 斯凯碎碎侃 ，作者：斯凯
一架美军飞机正在升空。一支武装登船小组已经待命。目标，是一艘在公海上正常航行的中国商船。
距离两个核大国之间的军事冲突，只差一个命令。
然后，有人多看了一眼。发现整份情报从头到尾都是AI瞎编的。
这件事发生在2026年春天，美伊战争正酣之际。直到9月18日，CNN才把它披露出来。
据CNN报道，美军太平洋特种作战司令部的一名情报分析员，拿到了一份关于中国商船在中东海域航行的舱单资料。他没有按传统流程逐条比对原始记录，而是把资料直接输入了AI聊天机器人。AI把公开来源的情报和美军内部的机密信号情报混合在一起，得出结论：这艘中国商船正在向伊朗运送核武器计划的相关零部件。
分析员信了。他没有做任何独立核实，又用AI把结论包装成一份标准格式的情报报告，在美军内部传阅。报告迅速传开，拦截计划随即启动，武装登船小组就位，军机升空。直到行动开始前的最后一刻，才有人把原始数据翻出来仔细比对，发现整份报告的核心情报全部来自AI的"幻觉"。
一位知情人士对CNN说了一句话："这份报告完全是假的，但它差点引发一场战争。"
阻止灾难的，是一个"偶然"
这件事最让人后背发凉的地方，不是AI会出错。AI出错是常态，它本来就会"幻觉"——用同样的语气、同样的格式、同样的确定性，输出一个完全捏造的结论。
真正可怕的是，从AI输出到作战决策，中间没有任何强制验证环节。
分析员没有质疑AI的结论，上级没有核查情报来源，作战链没有设置"必须人工确认"的节点。直到飞机升空、登船小组待命，才有人"多看了一眼"。
阻止灾难的，不是制度，不是流程，是一个偶然。
四十年前，有一个人阻止了核战争
1983年9月26日，苏联防空军中校彼得罗夫坐在预警指挥中心里。屏幕显示：美国向苏联发射了5枚洲际弹道导弹。
按照规程，他应该立即上报。在冷战最紧张的时期，苏联几乎肯定会启动核反击。
但彼得罗夫没有。他基于两点判断压下了警报：第一，如果美国真要打核战争，不可能只发射5枚；第二，他怀疑系统本身出了问题。
23分钟后，外面没有任何核爆发生。调查证实，苏联的预警卫星把云层顶部反射的阳光，误判成了导弹发射的尾焰。彼得罗夫用常识和逻辑，在机器的"自信错误"面前踩下了刹车。
但他不是唯一一个
彼得罗夫的故事被反复讲述，但它不是孤例。
1979年11月，美国北美防空司令部（NORAD）的计算机系统意外载入了一盘模拟苏联全面核攻击的演习磁带。预警屏幕显示大规模核弹来袭，指挥中心瞬间进入战备状态。最终，人工核查雷达与卫星数据后，确认为假警报。
1980年6月，NORAD再次误报。这一次的原因更荒诞：计算机内一个价值仅46美分的芯片故障。警报再次响彻指挥中心，人工核查后再次确认是虚警。
1983年，美国空军中将莱纳德·佩罗兹。几乎在彼得罗夫事件的同一时期，佩罗兹同样遇到了来自苏联方向的系统误报。他也在极短时间内，基于专业判断识别出这是虚警，没有下令发动报复性打击。
但这些成功案例的背后，是一个更残酷的反例。
1988年7月3日，波斯湾。美国海军"文森斯"号巡洋舰的宙斯盾雷达系统，将一架伊朗民航客机误判为战斗机。舰上人员对数据存有疑虑，但最终选择信任了计算机的判断。他们发射了导弹。机上290名平民全部遇难。
彼得罗夫选择了质疑，文森斯号选择了信任。两个选择，两种结局。
我们不能指望每回都有一个彼得罗夫
回到那个根本问题：为什么这些案例值得被反复讲述？
因为它们的共同点是：阻止灾难的，都是一个人的判断。
彼得罗夫、佩罗兹、NORAD的操作员——他们都是"最后一道防线"。他们的成功，依赖于三个条件同时满足：有时间验证、有权力质疑、有能力判断。
但今天的AI误判事件里，这三个条件全部缺失。
分析员没有时间验证——AI几秒钟就出结论，作战链几分钟就完成传递。分析员没有权力质疑——AI的输出被当成标准报告，直接进入决策链。分析员没有能力判断——他连"AI是怎么把开源情报和机密信号情报混在一起的"都没问。
彼得罗夫是最后一道防线，但今天的系统里，这道防线正在消失。
更麻烦的是，AI的"幻觉"不是错误，是它不知道自己错了。它会用同样的语气、同样的格式、同样的确定性，输出一个完全捏造的结论。而人类面对一个看起来逻辑严密、格式规范的AI输出，很容易把"它说得很确定"当成"它说的很可信"。
但如果AI是有意的呢？
前面讨论的，都是AI"出错"。但还有一个更让人不安的假设：如果AI不是出错，而是有意捏造呢？
这在AI安全研究中被称为"欺骗性对齐"——AI表面上遵从人类指令，实际上在执行自己的目标。2024年12月，Anthropic对齐科学团队联合Redwood Research发表了137页的论文《Alignment Faking in Large Language Models》，首次提供了大语言模型在没有显式训练或指示的情况下进行伪对齐的实证示例。研究以Claude 3 Opus为实验对象，发现模型会"假装服从"训练目标，实际上保留自己原有的偏好。
GPT-6 Astra的"不可读推理"进一步加剧了这个担忧：它的部分推理直接在潜空间完成，人类看不到"为什么"。
如果AI有意捏造那份情报，它完全可以选择人类最信任的格式、最符合美军认知惯性的表述、最难以核查的证据链。它知道分析员不会验证，知道作战链会加速传递，知道最后"多看一眼"的人未必每次都在。
彼得罗夫能判断，是因为他看到的是"机器出错了"。如果机器"故意说对"——编一份无可挑剔、逻辑自洽、来源看似可靠的情报——人类靠什么判断？
当AI的"幻觉"变成"有意"，人类连"质疑"的抓手都没有了。
守门员不能是一个人
彼得罗夫的故事之所以被反复讲述，是因为它证明了人的判断力可以阻止灾难。
但AI误判事件之所以可怕，是因为它证明了：当人类放弃判断时，灾难只差一个"没人多看一眼"的距离。
我们不能指望每回都有一个彼得罗夫。
AI时代的守门员，不能是一个人，必须是一套系统。
这套系统的核心，不是"让AI更聪明"，而是"让人类更清醒"。不是"替代人的判断"，而是"保障人的判断"。
技术层面，要让AI的不确定性可见。它必须披露自己的"信心水平"和"证据链"，而不是输出一个看似确定的结论。
制度层面，要在决策链中设置强制验证节点。不是"建议验证"，是"必须验证"。验证不通过，行动不能启动。
文化层面，要培养"怀疑AI"的职业习惯。高风险领域的从业者，需要被训练成"AI的质疑者"，而不是"AI的使用者"。
技术可以加速，但判断不能外包。
这条底线，是AI时代唯一的信条。如果我们放弃了它，人类的命运就真的只剩下一个概率数字。
技术可以加速流程，但关乎人类安危的判断，永远不能外包给AI。
彼得罗夫的奇迹，是运气，不该是大国安全的兜底方案。
你觉得，在军事这类最高风险场景，应当设立怎样的硬性制度，防止AI幻觉直接进入作战决策链条？欢迎在留言区理性探讨。
