本文来源：时代周报 作者：杨静菩
该图片使用了AI生成技术
15年前，iPhone 4S亮相，带火Siri。人们第一次大规模地和一个“能听懂人话”的AI对话。当时AI还是一个“空耳大师”，经常听错指令，也时常诚实地承认“我听不懂”。15年后，AI已经可以通过指令完成任务，甚至进行自动化工作，应用边界大大拓宽。
2025年，DeepSeek R1升级，把“幻觉率降低45%-50%”写进更新说明。准确性依然有待提升。据艾媒咨询调查，2026年中国用户认为AI大模型存在的缺陷中，“反馈答案无法保证百分百正确”占比达31.64%，这依然是AI大模型的主要缺陷之一。
“当一个人缺乏足够信息，却被要求给出明确答案时，也可能把猜测当成事实。大模型面对类似的问题，同样可能给出看似合理、实际缺乏依据的回答。”北京航空航天大学人工智能学院教授沙磊认为，“我们很难指望幻觉彻底消失，更重要的是降低它在关键场景中造成实际损害的可能性。”
从北京大学自然语言处理方向博士，到海外从事AI相关研究，沙磊的学术轨迹始终围绕着“让AI更好用”这一核心。回国加入北航后，沙磊的研究重心转向可信大模型、可解释性与大模型幻觉治理等前沿方向。他也将AI研究拓展到医工交叉领域，作为核心研究者参与的多组学疾病筛查成果刊发于 Nature Communications，并推进在产业界的落地。
对于如今大模型的发展，沙磊认为，大模型在听从指令、记忆力、解决幻觉问题上均有明显改善，但AI更需要亮明自己的“边界”。他认为，模型知道得越多，战线就越长，划清“哪里知道、哪里不知道”反而比从前更困难。幻觉不可能被彻底消灭，真正要压到最低的是“有害幻觉”；而在医疗这类关键场景里，AI始终是医生的帮手和补充，不是替代者。
边界确定比之前更难
时代周报：如果拿今天的大模型和几年前做对比，无疑进步明显。大家对此感受明显。这背后是哪些发生变化？
沙磊：普通人最直接的感受是，模型更能理解复杂指令，也更能记住前面说过的话。这背后有两个变化，一是架构改进，二是训练规模扩大。早期自然语言处理常用循环神经网络，比如RNN和LSTM。这类模型按顺序处理文本，并行计算受限，前文的信息也要不断压缩进有限的内部状态。文本一长，早先的细节就容易丢失。
Transformer的注意力机制让模型可以直接建立不同位置之间的联系，更好地利用上下文，也让训练更容易并行。标准注意力的计算开销会随序列长度快速增长，因此，模型规模、数据规模和算力需要协同扩展。
时代周报：所以，模型能力变强首先体现在“记得住”上？
沙磊：这是一个重要方面。
随着模型架构改进、参数规模和训练数据扩大，模型能够学习并保留更多知识，在遇到相关问题时也更容易调用这些知识。比如，一些常见的事实性问题，模型凭借预训练中学到的信息就能作答。对于更复杂的问题，还需要把不同的知识和解题策略结合起来。以 DeepSeek R1为例，强化学习让模型在反复尝试解决问题的过程中，逐步形成更有效的推理策略。
时代周报：以前Siri说“我不知道你在说什么”，现在模型开始“瞎说”。这也是一个很有趣的现象。
沙磊：随着生成式模型越来越好用，幻觉才成为一个特别值得关注的问题。早期的Siri主要处理一组相对明确的任务，比如设闹钟、查天气。超出它能识别的意图范围，系统通常会明确提示无法理解或处理，用户也比较容易知道它能做什么。
今天的大模型几乎对任何问题都能给出一段流畅的回答，用户很难仅凭表达判断答案是否有依据。能力覆盖得越广，哪些问题可以直接相信、哪些需要查证、哪些应当交给专业人员，就越难事先划清。
时代周报：它“乱编”的时候，是不是真的认为是准确的？
沙磊：模型可以生成语气很确定的句子，但语气本身并不能证明答案准确。
模型根据训练中学到的语言和知识关联，以及当前获得的上下文来生成回答。当信息不足时，它仍可能沿着熟悉的模式补全内容。比如，它可能给出一个格式完整的文献引用，但作者、题目和年份实际上来自不同来源。这样一个看起来可信、却缺乏事实依据的回答，就是我们常说的幻觉。
时代周报：不同的AI产品产生幻觉的程度不同，这是什么导致的？
沙磊：以 DeepSeek、千问、Kimi、豆包等产品为例，它们在事实问答、专业推理和联网检索等任务上的表现会有所不同。
要判断哪一个更容易产生幻觉，需要把具体版本、任务和使用条件放在一起比较。训练数据怎么筛选、不同阶段使用什么数据、如何开展强化学习和后训练，都会影响模型的表现。到了产品层面，能否检索到可靠来源、能否有效利用检索结果，也会影响用户最终拿到的答案。
时代周报：现在用户可能有一个普遍的体感现象：越“骂”AI，它越笨。这是什么原因？
沙磊：模型会根据提示中的措辞和上下文调整回答。一种可能的解释是，训练语料中带有攻击性的表达有时与情绪化、信息量较低的对话同时出现，类似的提示可能把回答引向这些对话模式。具体影响还取决于模型和任务，不能把这种体验概括成普遍规律。实际使用时，指出它错在哪里、补充缺失的背景，或者明确要求它核对哪一步，通常更能帮助模型改进回答。
尽量减少有害幻觉
时代周报：现在业内怎么应对大模型幻觉问题？大厂好像主要在走“喂更多数据”这条路？
沙磊：持续补充和更新高质量数据，是行业降低幻觉的一条重要路径。比如，模型在某个专业领域经常出错，就要先看训练数据是否覆盖了相关知识，已有材料是否准确、是否已经过时。对于需要实时更新的信息，或者必须以某份文件为准的问题，系统还需要接入可核验的外部来源。前者帮助模型掌握更多知识，后者为具体回答提供可以查证的依据。
时代周报：RAG，也就是检索增强生成，是另一条常被提到的路。通俗理解，是不是“我不知道，先去网上查，查完再回答”？
沙磊：可以这么理解。
系统先去找与问题相关的资料，再把资料交给模型，让它据此组织回答。资料可以来自互联网，也可以来自企业内部知识库、专业数据库或用户提供的文件。
用户在DeepSeek、豆包等产品里看到的是一个对话窗口，背后通常还有检索、工具调用和结果处理等环节。打个比方，大模型像发动机，用户使用的是整辆车。检索增强生成是产品系统中的一个环节。现在业内谈到的 Harness，也就是大模型外围的工程框架，还会决定什么时候检索、调用什么工具、如何使用和检查返回的结果。我们的研究也已经延伸到这一系统层面。
时代周报：那让模型“承认我不知道”这条路呢？现在能做到什么程度？
沙磊：让模型说出“我不知道”这几个字很容易，难的是让它在该说的时候说出来。现在有些方法可以根据模型的置信度、回答的一致性或外部证据，判断它是否适合直接作答。对一个具体问题，系统可以先看是否有足够的资料支持回答。如果能通过检索补齐证据，就尽量给出有依据的答案。如果关键证据仍然缺失，就应当明确告诉用户哪一部分无法确认。
时代周报：但用户其实宁愿它说“我不确定”，也不希望它“自信地编”。
沙磊：这涉及我们所说的“校准”。简单来说，就是模型对答案有多大把握，要与它在同类问题上实际答对的比例尽量一致。比如，模型把一批答案都标为有九成把握，这批答案的实际正确率也应接近九成。
如何把这种不确定性呈现给用户，还是一个产品设计问题。厂商会考虑提示是否影响使用体验，用户能否正确理解，以及不同产品之间的竞争。对用户而言，有时比看到一个置信度数字更重要的是知道，答案里哪项判断仍有疑问，可以去哪里核实。
时代周报：大模型幻觉最终能完全消失吗？
沙磊：在开放场景中，完全消除幻觉很难。
用户的问题可能涉及模型未接触的信息，现有证据也可能不足以支持一个确定答案。我更关心的是有害幻觉，也就是错误答案可能诱导用户作出错误决定。医疗、法律、金融等场景对事实准确性和证据核验的要求更高，应该优先把这类风险降下来。创意写作允许虚构，关键在于让用户清楚哪些内容是创作，哪些内容是事实判断。
医用设备AI化将成为趋势
时代周报：团队的多组学工作，是怎么控制幻觉的？
沙磊：我们从血液样本中获取分子测序数据，在这些数据上训练模型，再面向具体的疾病筛查任务进行微调。相关研究成果发表于《Nature Communications》。在这项工作中，我们把部分已知的生物学原理纳入模型设计，约束模型对测序数据的表征和预测，并通过实验评估模型的表现。
这里关注的主要是筛查预测是否可靠，以及模型的预测是否符合已知的生物学规律。基于这项研究，我们也参与了医疗和生物科研平台的建设与部署。
时代周报：从实验室指标到临床，还有多远？
沙磊：从实验室验证到临床应用，还要经过进一步的临床评价，并按具体用途满足相应的注册要求。
我们目前主要通过和华大基因等机构合作，推进技术验证和应用转化。在一项合作开展的早期筛查任务中，采用我们的研究方法后，一项评估指标由约0.60提升到约0.85。这个结果对应的是该合作项目的评估，能否在不同人群和实际临床流程中取得相近的表现，还需要进一步验证。
时代周报：AI目前在医生实际工作中应用多吗？主要用在哪些地方？
沙磊：目前比较常见的应用包括医学影像识别和分割、文献检索，以及科研和病例汇报材料的整理。我们此前也开发过用于科研绘图的智能体，获得了一些海外用户的使用反馈。
在诊疗环节，AI可以提示影像中值得复核的区域，或者补充医生可能遗漏的线索。医生再结合病史、体征和其他检查结果，判断这些提示是否与患者的实际情况相符，并作出专业判断。
时代周报：通用大模型已经能够满足比较泛化的用户需求，但涉及到垂直或专业场景，专用大模型无疑将是刚需。那么在医疗领域，专用大模型的必要性首先体现在哪里？
沙磊：专用模型的优势在于，可以围绕明确的使用场景选择训练数据，限定任务范围，并用该领域的标准进行验证。比如，疾病筛查模型可以针对特定人群和筛查目标，专门评估漏检和误报。这种有针对性的训练和验证，有助于减少任务中的错误。模型换到另一家医院或面对不同人群时，仍需要重新评估它的适用性。
时代周报：在医疗场景中，训练AI的数据从哪来？
沙磊：这取决于模型要完成什么任务。
医学教材、临床指南和专业文献可以提供基础医学知识。面向具体临床任务的模型，还可能在取得相应授权、完成数据治理后，使用合作医院提供的病历、影像或检验数据。不同医院的数据格式、编码规范和记录习惯都有差异。多中心合作中，统一数据标准、核对数据质量，往往和训练模型本身一样重要。
时代周报：本地化部署和云端部署相比，这两种在调用数据上有什么区别？
沙磊：在涉及患者隐私的场景中，不少医院会考虑把模型部署在院内，使数据可以在院方管理的环境中完成处理。比如，系统可以按授权读取院内病历，把与当前任务相关的信息提供给模型做推理。云端部署则需要根据数据范围、传输路径和访问权限来确定哪些信息可以调用。无论采用哪种方式，允许模型在一次任务中读取数据，与允许使用这些数据训练模型，是两项不同的授权。
时代周报：未来医院里AI会铺得更广吗？
沙磊：我认为应用会越来越广，尤其是在流程清楚、结果便于医生复核的环节，比如导诊、病历整理、影像初筛和用药风险提示。这些工作可以减少医生的重复劳动，让他们把更多精力放在需要专业判断的患者身上。
我也看好AI与医用设备的结合。比如，把图像识别、异常提示等能力嵌入设备，医生可以在熟悉的操作流程中使用这些功能，必要时复核结果或接管操作。这类应用更容易融入临床工作。
时代周报：什么才是好用的AI，以后要往什么方向发展？
沙磊：好用的AI应该让人知道，在什么情况下可以依赖它，哪些结果需要核实，什么时候应当由人接手。随着AI逐步融入电脑、随身设备和各类基础设施，很多时候用户可能不会特意打开一个对话窗口。因此，系统更需要在合适的时候说明，它依据什么给出判断，还有哪些信息缺失，以及用户下一步可以怎样确认。
