文丨徐耀文 郭喨 王晓梅 蔡铭
当前，人工智能已从单纯的专业技术工具，转变为深度影响经济社会运行的基础性力量。习近平主席强调，人工智能可以是造福人类的国际公共产品。近日，我国发布的《构建更加公正合理的全球治理体系：中国的理念、倡议与行动》白皮书指出，推动人工智能朝着“以人为本、智能向善”的方向发展，已是不可阻挡的时代趋势。随着大语言模型加速向具备自主执行能力的智能体（Agent）演进，我们对人工智能发展的考核与规制，不能仅仅停留在模型规模、训练数据和生成效率的技术指标上，而必须跨越技术边界，在学界已有广泛探讨的基础上，应当进一步聚焦：什么样的系统才算真正跨越了“智能”门槛？以及更重要的，人工智能应如何在可解释、可验证的治理框架内实现可控演进？
人类与人工智能的协同新图景
当前，学界与业界已逐渐摒弃简单且对立的“替代”或“控制”论，并逐步达成一种新的共识：人工智能正在成为人类认识世界、解决复杂问题和组织生产的重要协作者。尽管这不可避免地引发失业焦虑、主导权丧失等隐忧，但这种新型伙伴关系的底层基础在于“能力互补”。人工智能擅长处理海量数据、发现复杂模式、瞬间生成内容以及完成高并发的重复性任务；而人类则拥有价值判断、共情、责任承担和从无到有的创造性想象。二者绝非零和的竞争关系，而应在深度协同中无限放大人的核心能力，使人类从低效的事务性工作中释放出来，将精力倾注于创造、沟通、决策和治理。
然而，伙伴关系并不意味着主体地位的完全对等。人工智能可以提供极具洞察力的建议和辅助决策，但它无法、也不应自然承担道德、法律和公共维度的责任。尤其在医疗、交通、金融、司法和公共安全等高风险领域，关键决策的最终定夺权与责任锚点，必须牢牢把握在人类手中。成熟的人机关系，应是协同而非依附，赋能而非替代，可控而非失控。
从更宏大的历史尺度来看，人类正在经历的并非又一次“工具升级”，而是一场“范式切换”。 正如互联网将信息的边际成本降至趋近于零，大模型正在以完全相同的经济逻辑，将“知识”和“认知能力”的边际成本推向趋近于零。而智能体（Agent）的崛起，则标志着这一范式的第二次跃迁——从“知识无处不在”走向“行动无处不在”。人类第一次拥有了能够自主感知、推理、规划并执行行动的数字化“协作者”。这一历史方位决定了我们讨论的“协同”，不是人与打字机的关系，而是人与一种正在快速逼近通用智能的新物种之间的关系。
能力底线：从信息生成器走向问题解决者
我们需要的人工智能，不应仅仅是一个“更会说话、生成更流畅”的系统，而必须具备以下三大核心能力。理解能力：突破字面概率和统计规律的局限，能够深刻洞察问题背景、复杂对象关系、用户的真实意图以及现实约束条件。例如，在医疗问诊中，系统不仅能识别“头痛”的表层词汇，更能结合患者病史洞悉深层病因，而非依赖语料库进行盲目的文本概率拼接。逻辑能力：超越单纯的遣词造句，能够进行严密的推理论证、识别因果链条、保持认知的前后一致性。例如，在司法辅助中，系统不仅能罗列法条，更能精准甄别复杂证据链条中的逻辑矛盾，为其得出的结论提供可检验的理性依据。行动能力：打破纯文本对话的封闭边界，能够在需要时自主且灵活地调度搜索、计算、编程、实验或数据库等外部系统。例如，在科研探索中，智能体不仅能提出新材料的合成猜想，更能自主调用后台分子模拟软件进行测算，将语言推演转化为可执行、可验证的实际行动。
理解、逻辑与行动这三重能力的统一，本质上是对“三位一体”智能范式的技术呼应——任何完整的智能系统都必须包含信息感知、模型推理和行动执行三个子系统，缺一不可。过往的AI系统大多停留在“感知+模型”的层面，缺乏行动闭环；而智能体的革命性恰恰在于将三者真正贯通。正是基于这三大核心能力的支撑，人工智能才得以从单纯的“静态信息生成器”，逐步升华为具备自主执行能力的“智能体（Agent）”。只有这样，它才能在科研、制造、医疗、教育、治理等复杂场景中，充当真正实质性的“问题解决者”。若缺乏这些内在能力，系统表现得再流畅，也极易沦为制造“信息幻觉”的黑盒，或是沦为制造“数字垃圾”的信息污染源，徒增人类的复核成本。
在以核心能力为标尺重构评估体系时，我们应保持开放态度，避免过早用单一的量化指标或刻板的测试方式固化其发展方向。人工智能崭新的能力形态正随着模型架构、数据处理、工具集成及应用场景的演进而不断涌现，评估体系也必须具备相应的动态包容性。然而，这绝不意味着必要“标准”的缺位。正如人类教育的精髓在于“守住底线，不设上限”，面对人工智能，我们也不应刻板地去定义什么是“完美”或“最好”的系统，而是要准确识别什么是“达标”的系统，“达标”以上的广阔空间则应留给智能体在与现实的碰撞中去自我进化。
一个“达标”的基础智能体，其核心标志在于是否具备“接受反馈进行自我修正”的能力，即对齐（Alignment）能力。正如OpenAI前首席科学家伊尔亚·苏茨克维所言，GPT已经内含了一个对世界的完整表征模型——它“知道”世界的精妙之处，尽管我们训练它的方式只是“预测下一个词”。但仅有知识压缩还不够，一个系统要真正“达标”，还必须通过人类反馈强化学习（RLHF）等对齐工程，将封装的知识与人类的意图、价值观和具体情境进行校准。只要具备了这种“底层认知素养”，即便它在面对极度复杂的现实不确定性时暂不能实现“全闭环”，它也已经跨越了传统自动化软件的边界。低于这一基础门槛的，只是按规则运行的传统机器；跨越这一门槛的，才是具备生命力与演进资格的真正“人工智能”。换言之，没有对齐的大模型只是“知识巨人”，经过对齐的系统才可能成为“负责任的协作者”——这正是能力底线的认知分水岭。
治理边界：从被动训练走向可控演进
当人工智能跨越了上述基本门槛后，其持续发展的衡量标准，就不应再局限于模型参数量和训练数据规模的盲目扩张。更重要的方向，是从“被动接受问答的静态模型”，走向“能够与环境交互、持续进化的智能体系统（Agent System）”。这种演进并非脱离人类控制的无限自我升级，而必须发生在可验证、可约束的治理框架内。这种系统需要具备：连续认知，通过串联过去、感知现在和预测未来，形成对世界动态变化的连续性认知；长效记忆，突破单次对话的上下文限制，通过记忆沉淀长期经验，形成个体化的情境理解。环境交互，通过与数字环境或物理世界的深度交互，将语言的逻辑推理转化为介入和改变世界的真实行动。情景模拟，具备在虚拟空间中对可能路径、潜在风险和未来情景进行提前推演和沙盘模拟的能力。依托这些高阶演进能力，人工智能将彻底打破“静态智能”的局限，进而在反馈中自我修正，在实践中优化策略，并在复杂且多变的真实环境中持续提升问题解决能力。
然而，这种将逻辑推演转化为真实世界行动的强大能力，在极大扩展生产力的同时，也带来了前所未有的系统性风险。因此，明确其治理边界不仅是防范风险的现实紧迫需求，更是定义其“能力底线”不可或缺的核心要件。构建治理框架的目的，不是为了踩下技术进步的刹车，而是为了校准前进的方向盘，确保这种强大能力的扩张始终服务于人类福祉和社会公共利益。
治理的核心难点不在于“如何监管一个静态模型”，而在于“如何治理一个持续演化的智能体系统”。当模型通过与环境交互、记忆沉淀和自反馈机制不断改变自身行为时，传统的“审批－上线－使用”线性监管模式将面临根本性失效。我们可能需要借鉴生物安全领域的分级管理体系，正如Anthropic所设计的ASL（AI安全等级）系统，对不同能力层级的智能体施加动态的、与风险级别相匹配的治理要求。
比“如何治理”更根本的，是“由谁来治理”。超级对齐（Superalignment）团队在OpenAI成立不到一年即告解散，Ilya Sutskever与Jan Leike分道扬镳，这并非偶然事件，而是暴露了一个深层矛盾：在激烈的商业竞争和“逐底竞争”压力下，安全对齐往往成为被牺牲的“对齐税”（Alignment Tax）——这恰恰印证了商业实体无法独立完成对自身的终极治理。因此，人工智能的治理边界，必须由超越商业利益的国家力量与国际协作来共同划定，不能将“安全”完全托付给“市场”。
具体而言，构建治理边界要确立不可逾越的核心共识：首先是坚持人类的最终责任主体地位，虽然人工智能可以深度参与分析、建议甚至执行，但只要涉及价值判断、权利分配、风险承担等关键环节，就必须保留清晰且不可推卸的人类责任链条；其次是强调可验证性、可追溯性与破除黑盒，这意味着人工智能输出的结论、调用的工具、依赖的底层数据及其产生的影响，必须具备高度的可解释性，确保整个推演和行动过程能够随时被人类审查、复核与紧急熔断；再次，应基于场景分级设置动态约束，对于一般性的辅助创作，我们可以拥抱效率与体验；但在涉及医疗决策、司法裁判或人身财产安全的高风险领域，则必须将安全性、审慎原则、透明度和伦理责任置于绝对的最高优先级；最后，应构建实质性的约束与问责机制，以应对商业竞争中屡破边界的现实乱象，坚决避免人工智能陷入不顾公共利益的“逐底竞争”——而这在现实中是很有可能的。
人工智能发展的核心命题，早已超越了简单的参数竞赛，而是旨在构建一种更有效、更可靠、更具韧性的人机协同范式。真正有价值的人工智能，不仅要跨越由理解、逻辑与工具调用（行动）构成的“智能体门槛”，更需在记忆、交互和模拟中实现持续的可控演进。在这一不可逆转的历史进程中，“模型治理”绝非技术发展过程中的事后补救，而是确保人工智能始终走向“以人为本、智能向善”的必经之路。唯有在人工智能能力的深度拓展与治理边界的审慎构建之间达成完美的动态平衡，我们才能真正驾驭这股变革力量，使其成为扩展人类智慧、加速知识创造并解决复杂现实挑战的强大引擎。
（作者徐耀文，系浙江大学“启真问策”学员、浙江大学计算机科学与技术学院博士生；郭喨，系浙江大学科技与法律研究中心研究员、《人工智能的新衣》作者；王晓梅，系医策科技创始人&CEO，蔡铭，浙江大学人工智能学院副教授。文章仅代表作者观点。）
