习近平总书记在中共中央政治局第二十次集体学习时强调，要“全面推进人工智能科技创新、产业发展和赋能应用，完善人工智能监管体制机制，牢牢掌握人工智能发展和治理主动权”。以GPT-5为代表的新一代人工智能大模型将在2025年年中时分陆续发布，揭示其发展路径趋向、判断内在的权力格局演进、系统设计未来风险应对方略，是我们牢牢把握人工智能发展和治理主动权的重要范畴。就发展路径而言，规模法则依然有效，大模型的推理、反思、规划和自主行为能力持续快速增强；就权力格局而言，技术权力更加集中于少数组织和人，挑战人类主体性的极端风险开始出现，新一代模型的治理愈发依赖模型本身；实践方略包括切实促进这一“年轻的”和“年轻人的”事业发展，建设具有示范效应的全球科技创新高地和智能治理高地；衔接推进相关立法和机构改革，推进智能驱动的治理现代化。正在制定的人工智能法将大模型技术监测、风险预警、应急响应作为“切口”与主线，聚焦于社会基本矛盾治理与社会发展动力增速等若干基本问题及解决方案。
关键词：
习近平总书记关于人工智能重要论述；新一代人工智能大模型；GPT-5；DeepSeek；智能行为体（Agent）；智能治理
习近平总书记在2025年4月25日中共中央政治局第二十次集体学习时强调，“完善人工智能监管体制机制，牢牢掌握人工智能发展和治理主动权”，指出“人工智能带来前所未有发展机遇，也带来前所未遇风险挑战。要把握人工智能发展趋势和规律，加紧制定完善相关法律法规、政策制度、应用规范、伦理准则，构建技术监测、风险预警、应急响应体系，确保人工智能安全、可靠、可控”。4月29日在上海考察时，习近平总书记进一步指出，“人工智能技术加速迭代，正迎来爆发式发展，上海要总结好以大模型产业生态体系孵化人工智能产业等成功经验，加大探索力度，力争在人工智能发展和治理各方面走在前列，产生示范效应”。面对新一代人工智能技术，特别是新一代人工智能大模型（下称新一代模型）快速演进的新形势，揭示其发展路径趋向、判断权力格局演进、系统设计应对方略，包括对需要加紧制定的人工智能法提出建议，是其题中应有之义。
新一代模型正箭在弦上。自年初的“DeepSeek时刻”以来，主要人工智能企业尽数宣布正在训练或即将发布新一代模型。2025年2月起，OpenAI陆续发布代表前沿水平的GPT-4.5（预训练）、o3/o4-mini和Deep Research（智能行为体［Agent］）等模型，还宣布将在数月内发布GPT-5。其他企业也在纷纷并跑、赶超。DeepSeek发布预训练模型v3的更新，有消息称v4（预训练）和r2（推理）即将发布；阿里巴巴通义大模型团队先后发布Wan2.1、Qwen2.5和Qwen3；国外，Google DeepMind、Anthropic、Thinking Machine和Safe Superintelligence（SSI）等企业同样可能在今年年中发布其最新一代模型。于是，2025年的下半年，不仅是新一代人工智能加速演进的时期，还将是人工智能发展史上又一空前波澜壮阔的时期。
在人工智能“加速迭代”和“爆发式发展”的阶段，面对如此“前所未有发展机遇”和“前所未遇风险挑战”，概言之，其发展路径体现出四点趋向：规模法则依然成立，新一代模型具备更强的推理、规划和反思能力，具备一定程度的自主行为能力，也将因此开始具备自主研究和自我改进的能力；权力格局相应衍生四重走向：技术权力和治理能力更加集中，传统治理风险和个体权利侵害因其自主性而更频繁地发生，挑战个人主体性的新型极端风险开始从科幻想象变成现实，新一代模型的治理只能通过模型自身发展加以实现；实践方略则包括系统协同的四维面向:首先是切实鼓励新一代人工智能技术发展，其次以自立自强、自主可控的大模型赋能国家治理体系和治理能力现代化，其三是将大模型技术监测、风险预警、应急响应作为人工智能法制定的“切口”和主线，其四是加紧探讨若干基本但关键的底层逻辑的问题。
一
新一代模型的发展路径趋向直接交互改造世界
根据人工智能大模型半个世纪以来发展的历程和体现的规律，结合这一领域的前沿动态，可以预测出新一代模型发展路径的四点趋向，特别是从仅仅理解和解释世界到直接交互和改造世界的转变。
其一，规模法则不仅依然成立，还在高歌猛进。所谓规模法则（Scaling Law）可以概括如下：按照一定的比例扩张大模型训练的参数规模、训练数据和训练算力，即可得到性能更加强大的模型。不仅是在现有的任务上性能更为优异，还能在通用类型的任务上“涌现”新的能力。从更多还是技术原型的GPT-1和GPT-2，到2022年引起全球瞩目、重塑治理议程的GPT-3，再到继续显著提升的GPT-4和o1发展至o4的系列模型，以及预期将很快发布、融合GPT系列模型能力和o系列模型能力的GPT-5，这一整个历程就是规模法则最为鲜明的展现。过去几个月，对于规模法则是否已经触达极限，国内至今还有争论。有的观点认为规则法则始终成立，效果明显；也有观点认为规模法则已经触顶，应当开始探索不同的技术路线。
就此，李国杰院士指出，“继续扩大神经网络的规模和增加训练的数据量”，即规模法则“是否还能取得与投入相称的回报，要看今后的实际效果”。即将发布的新一代模型的实效如何，将为规模法则是否依然成立给出阶段性的答案。不妨进行看似大胆，但也有几分信心的推断：以GPT-5为代表的新一代模型将证明规模法则依然成立。比照GPT-3到GPT-4的提升，从GPT-4到GPT-5，从当前最先进的模型到新一代模型的更新，同样会促进性能提升、能力涌现，以及更大范围的通用性适配。这和最近山姆·奥特曼（Sam Altman）等OpenAI核心人员在公开发文和直播对谈中的论断相呼应。例如奥特曼在《三点观察》（“Three Observations”）中所言：“模型的智能程度大致等于用来训练和运行模型的资源的对数值……看起来你可以花费任意数量的金额，然后取得可预测、连续性的提升；预测到这一点的规模法则在许多个数量级上都成立。”其他一些代表性的企业家、工程师和研究者也在近期作出了相似的判断。
值得强调的是，不仅是一般意义的规模法则依然成立，在预训练、推理和智能行为体三个维度上分别扩展提升性能的规模法则都依然成立。具体而言，预训练的规模法则通常意味着用尽可能多的数据和尽可能多的算力训练尽可能大的模型，能使其具备更强的基础能力；推理的规模法则通常意味着用尽可能多的高质量数据和尽可能多的算力引导模型通过深入且有针对性的思考，尝试解决相对复杂的问题，从而更好地释放其基础能力；有关智能行为体的规模法则，我们还不完全清楚工程上具体如何实现，但从这方面最出众的OpenAI的Deep Research和其他趋势来看，有可能开始弱化数据的作用，而更重视为模型提供可自主探索的环境和充沛无限制的算力。显然，三种规模法则可以彼此促进。规模法则继续成立，不仅印证了“前所未有发展机遇”和“前所未遇风险挑战”的论断，也意味着新一代模型的治理是一个还会越来越“真”的真问题。
其二，新一代模型具备更强的多步骤推理、长程规划和自我反思能力。承前所述，更强的基础能力意味着模型吸收了更多的知识，具备的潜能更高；更好地释放基础能力，意味着模型在模仿各类优质思考样例、尝试解决复杂问题的过程中逐步习得如何运用内部的海量知识，逐步习得如何组合概念开展推理、面对难题规划步骤、在阶段性试错中反复调整和最终想通解决问题的完整链路，也就是DeepSeek在发布r1的报告中提及的“顿悟时刻”（Aha Moment）；最终，在其能力达到一定高度、不再满足于纸上谈兵之后，开始进入沙盒乃至真实环境中不断实战和验证，相信DeepSeek-r2和GPT-5等新一代模型将在这方面展现超越预期的性能提升。换言之，2024年及以前的模型更类似比较灵活的检索引擎，通常只能回答具备明确答案、训练中已学习的问题；2024年年底以来的模型则相当不同，可以通过1分钟、5分钟甚至30分钟以上的长考，在思维方面走得足够远。即使是当前已经发布的模型，也足以独立或与人类协作，通过深入思考解答长期以来未能解决的科学难题。“以人工智能引领科研范式变革，加速各领域科技创新突破”的路线越发清晰。推理、规划和反思能力既是规模法则发展的结果，也是2024年下半年以来大模型进一步取得突破的关键技术环节。
其三，新一代模型具备更强的自主行为能力，特别是在线空间中的自主行为能力。这不仅是由于规模法则的发展，也由于模型和外部环境间的交互能力、协议和环境的发展。直观而言，之前的模型更多存在于聊天窗口和接口调用中，除非人类进一步使用这些内容，模型本身无法影响外部环境；从今年年初开始，模型开始具备越来越强的自主检索、浏览信息、试用工具、评估效果、组合工具，进而综合不同信息源和工具来探索、解决复杂现实问题的能力，也就是可以自主迈出聊天窗口和接口范围、直接与外部环境交互。相信GPT-5和其他的新一代模型在这方面将更加强大。于是，之前的模型只是在以不同的方式理解和解释世界，而关键之处，也是新一代模型核心的不同之处，在于改造世界。正是基于此创新特点，习近平总书记2025年4月29日在上海模速空间参与题为“下一代智能体的自主进化”的沙龙时，亲切鼓励青年创新人才“展示才华、大显身手”。
模型如何实现如此进步？在来势汹汹、日新月异的浪潮中，有五方面值得详加说明。其一，协同发挥三方面的规模法则的威力愈发重要。迈向自主程度更高的模型，在预训练、推理和智能行为体的任一环节，都需要足够的模型规模、精细制备的数据（环境）和成倍扩张的算力。其二，相比其他种类的规模法则，如何扩展智能行为体的规模法则，特别是如何扩展精细制备的数据（环境）的规模最为重要。从训练Deep Research的经验来看，极大概率需要详细记录人类专家如何解决困难问题的、极高精细程度的过程性数据。不仅包括最终解决问题的正确路径，也包括不断试错反思的岔路和反映思绪灵感的“草稿”。此类数据造价不菲，收集、制备和使用的整个流程需要投入不少工程的巧思。2025年4月以来，人工智能领域众多资深和新锐研究者不约而同就此发声。如大卫·席尔瓦（David Silver）和理查德·萨顿（Richard Sutton）断言：“人工智能正处在这样一个时刻的开端，（在环境中的）经历将成为模型提升的主要媒介，最终让当前的人工智能系统所使用人类数据的规模变得相形见绌了。”其三，2024年下半年来，以美国独角兽企业Anthropic为代表的人工智能企业努力创建和协调联通了模型场景协议（Model Context Protocol，简称MCP）。所谓MCP，可以理解为方便模型和外部环境彼此沟通的语言，只要外部工具遵守MCP、提供相应信息，模型很容易在探索环境的过程中弄清楚外部工具有何用途、如何使用。其四，技术发展日益耦合。模型的发展不仅取决于三种规模法则的协同，也和模型与交互协议、外部环境间的协同改进密切相关。其五，值得稍加补充的是，上述分析主要适用于在线环境中的模型，现实环境中的情况需要另外再分析。
最后，预期自2025年下半年起，将涌现出明确宣布实现通用人工智能（Artificial General Intelligence，简称AGI）的声音。随着模型发展的基础规律不断得到印证，其解决复杂问题和自主交互改进的能力不断增强。关于AGI这一概念有许多不同的认识。无论如何，相应的观点都反映出模型自主性的增强，既包括自主交互、自主改进，也包括自主交往和自我逃逸。循此，可在五方面稍作推论。一是模型能力和安全程度的评测越来越困难。作为类比，入门水平的岗位通常可以通过标准化考试进行录取，资深岗位的选拔更多需要定制化、情景化的面试。最近，OpenAI相关研究人员也在《人工智能下半场》（“The Second Half”）一文中指出：“（当前的评测任务）是困难的，因为前所未见，但也令人激动。”二是主要由于能自我改进，新一代模型的技术进步不断加速。正如习近平总书记在上海调研时所指出的那样：“人工智能技术加速迭代，正迎来爆发式发展。”三是恰如系统论学科的创始人诺伯特·维纳（Norbert Werner）在1960年所预见：人工智能进步速度越快，价值对齐，或者说“我们最好相当确信输入机器的目标是我们确实想要的目标”，就会越发重要。四是新一代模型的开源可能和过去的开源相当不同。五是很难再将模型截然视为工具。有关人工智能究竟是工具还是主体，长期来的学理争论层叠繁杂，相信新一代模型的技术趋势和使用体验会提出新的答案。总的趋势是，新一代模型的发展，意味着人工智能治理也将进入一个新的时代。治理方略的设计不再限于技术风险的应对，而是需要通盘筹划人和技术之间趋于复杂微妙的关系，特别需要考量权力格局前所未遇的演进。
二
新一代模型导致权力向少数企业和模型本身高度集中
新一代模型加速演进导致权力格局发生四重走向。一是发展趋向导致技术权力高度集中。二是传统风险更加频繁、损害个体权利利益。三是极端风险开始出现，人的主体性遭遇新一代模型挑战。四是新一代模型的治理需要通过模型本身来开展，技术权力和治理能力同向汇合。诸多因素叠加，治理问题及其应对方略因此呈现前所未有的变化。
首先是技术权力前所未有地高度集中。在GPT系列之前出现的人工智能模型即已引起有关其权力的诸多忧虑。因循规模法则发展而来的新一代模型导致权力更加集中，也为这些忧虑提出更多的佐证。为了发挥法则的威力，需要不断地扩张，成倍地扩张“用来训练和运行模型的资源”的数量级，一方面将其转化为用于模型训练、推理和探索改进的数据、算力和环境，另一方面用于延揽顶尖的人才。对此最有力的例证是GPT模型的主要奠基者之一伊尔亚·苏茨克维（Ilya Sutskerver）创办的SSI，在其尚未发布任何模型，甚至尚未公开宣布任何趋势的情况下，估值已经达到320亿美元（约合2300亿元人民币），当属前所未有。前所未有的集中，进而体现为以下特征：一是能够筹措如此规模资金，继续投入开发新一代模型的企业少之又少。二是这些企业在地域分布上高度集中。除了我国DeepSeek和阿里巴巴等之外，其他绝大部分都位于美国，甚至可以说都位于美国加利福尼亚州的硅谷附近。三是这些组织普遍十分精悍。最精悍的SSI仍然维持数十人左右的规模，规模较大的OpenAI员工也只有一千余人。对研发和使用模型有话语权的，又只是这些组织的管理人员和部分精英工程师，后者通常称为技术团队成员（Member of technical staff）。也就是说，空前强大的新一代模型实际掌握在数百人，最多不过千余人手中。四是价值观和文化上的集中，前述从业者普遍认同硅谷的工程师文化。五是这千余人可以通过对模型的掌握发挥出较学界先前多有论说的算法权力还要可观得多的权力。权力的支配程度更高，载体更加集中，分享者数量更少，结构组成及其价值观也更划一。
高度集中与分布不均常常是一枚硬币的两面。新一代模型集中于少数企业、单一地域，仅涵盖少数人员和单一价值，意味着在此之外的绝大部分国家和地区在人工智能发展方面处于相对被动的位置。一方面，很难培养数据、算力和环境等各方面资源已经如此聚集、动辄需要上百亿美元支撑的新的企业；另一方面，也很难在人才方面与已经建立优势地位的企业竞争。结果，与技术相关的权力持续向极少数人流转，加剧了国际不平等。对此，特别是对全球南方而言，如果希望在新形势中实现自主可控的主权人工智能，与我国加强合作是最务实的选择；否则，很难独立建设在数据、算力、环境和人才方面都不能有明显短板的大型复杂系统工程。由此，正如习近平总书记强调：“人工智能可以是造福人类的国际公共产品。要广泛开展人工智能国际合作，帮助全球南方国家加强技术能力建设，为弥合全球智能鸿沟作出中国贡献。推动各方加强发展战略、治理规则、技术标准的对接协调，早日形成具有广泛共识的全球治理框架和标准规范。”2024年年底以来，我国和赞比亚共同发起成立人工智能能力建设国际合作之友小组，在加强人工智能能力建设合作、弥补数字鸿沟方面不断取得新进展。当前正是开展国家合作、推动模型普惠、弥合全球鸿沟、建设智能高地、彰显中国贡献的最好时机。唯有如此，才能“确保人工智能向善、造福全人类，避免其成为‘富国和富人的游戏’”。
其次是传统的人工智能风险频繁发生，损害个体权益的情况会频繁出现。此处“传统”，指的是并非因为新一代模型才开始出现的风险。具体而言，根据目前可称为相当全面的麻省理工学院人工智能风险事件库（AI Risk Repository）资料，传统风险的类型主要包括：歧视和毒性内容、隐私和安全风险、虚假信息、恶意行为者入侵、人机协同（包括成瘾和自控等风险）、社会经济和环境风险、人工智能系统故障和错误。其中每一大类又可分为若干更具体的类型。尽管这些风险不是因为新一代模型才开始出现，但由于新一代模型自主性的上升，其发生频率很可能增加。在新一代模型之前，即使是GPT-4等一年多以前先进的模型，也只能通过聊天窗口或接口调用的方式与用户和环境交互。模型没有“手脚”，除非人类根据其输出操作，否则不能直接影响外部环境。当时的模型也存在生成歧视内容、滥用个人隐私等风险，但除非有人类用户进一步加以使用，仅生成内容本身并不会溢出聊天窗口或接口边界造成后果。新一代模型，包括智能行为体能够直接与外部环境交互，无须人类用户进一步操作即可影响环境。于是，即使其生成的内容实际上风险更低，由于交互的自主性，风险实际造成后果的概率很可能显著上升，直接导致人格权利和其他权利、利益侵害的概率也相应上升。此外，风险不仅包括发生概率的高低，也包括后果的严重程度。例如，规模不断成倍扩展，特别是算力规模成倍扩展的模型导致更多的碳排放、废热废水排放和其他生态代价，造成更加严重的生态环境风险，导致公众环境利益的损害。总之，新一代模型直接导致个体权益受到侵害的情况也会增加。
其三是人工智能的极端风险开始发生。此处极端风险根据地域、学科或语境不同，有时又称为人工智能大模型的存在性风险（Existential risk）、系统性风险（Systematic risk）或新兴风险（Emerging risk）。就此，约书亚·本吉奥（Yoshua Bengio）等颇具代表性的人工智能治理研究者提出的定义最具影响力：极端风险是“强大的通用人工智能系统——在许多关键领域上超越人类”所特有的风险，不是先前的人工智能模型就有的传统风险。进言之，新一代模型的自主行为能力是一把双刃剑，极端风险正是其最为锋利、凛冽逼人的另一面。自主交互和自我改进的能力意味着其可能超出人类的计划，以事前无法预期的速率向事前难以预见的方向发展；自主交往、有效说服的能力意味着人类监督和干预控制极端风险最脆弱的节点在于人，极端风险包括人工智能的守门人被新一代模型说服的风险；自我逃逸、扩散保全的能力意味着极端风险一旦发生就很难缓解或逆转，正如本吉奥等研究者设想的情形：“为了避免人类干预，其可能将自身算法拷贝到全球的服务器网络。”循此，发生任何一种情况，都意味着人类对新一代模型存在失去控制的可能，且此进程不可逆，这也就意味着自主性和尊严开始遭遇现实严峻的挑战。对于自我改进、有效说服和逃逸保全这三个维度，新一代模型都已经非常接近于危险的临界点。
有颇多迹象支撑这一分析。最具说服力的是人工智能企业纷纷更新防控极端风险的政策措施。比如，OpenAI主要依据其《有备无患框架》（“Preparedness Framework”）管控极端风险。在2025年4月16日的更新中，OpenAI已将人工智能自我改进的风险级别升格为“高”，指出“人工智能自我改进”可能开始加速，并且启用高标准的安全措施。美国人工智能独角兽企业Anthropic主要依据其《负责任地扩展规模的政策》（“Responsible Scaling Policy”）管控极端风险。在2025年3月31日的更新中，可以看到Anthropic已经为将安全措施升格到第3级安全标准（ASL-3）做好准备，ASL-3针对的就是“（模型）具备完全自主的、Anthropic雇员的研究能力”的极端风险。Google DeepMind在2025年4月2日公开发布《通向AGI安全的路径》（“An Approach to Technical AGI Safety and Security”），断言AGI将很快到来，介绍其极端风险管控举措，并且开始公开招聘主要工作内容为“探索AGI到来后的显著影响”的后AGI时代研究科学家（Post-AGI Research Scientist）。主要人工智能企业纷纷在年中之前的这个时间点更新针对新一代模型的极端风险治理措施，显然不是偶然为之。我们不仅需要面对和解决权力向少数组织和人集中的问题，也要开始面对和探讨人和模型之间划分权力的问题。
最后是新一代模型的治理需要也只能通过模型本身发展来进行。或者说，很难解决“弱”对“强”的监督（Weak-to-strong supervision）问题。OpenAI在2021年率先提出和探索了这一颇显质朴，却又有如“天问”的概念：能力较弱的主体（模型），如何可能监督和治理在各方面能力要强得多的主体（模型）呢？通过相当的聪明和努力，有可能让GPT-3勉强监督GPT-4或者GPT-4.5，但要监督即将发布的GPT-5恐怕是力有未逮。如果新一代模型已接近OpenAI、Anthropic或者DeepSeek等企业内平均员工的能力，鉴于这些资源密集的企业的人才富集程度，恐怕也在人工智能发展和治理的各个方面都要比几乎所有的个体要擅长。或者说，考虑到新一代模型具备规模巨大、加速演进、博学多闻、勤于动手、善恶莫测乃至狡猾多端等特性，仅凭人类恐怕很难形成有效的治理——仅仅是训练数据一项，人类纵然把“冷板凳”坐穿，也不可能看完模型数秒之内认真学习的数据，更不可能像即将发布的下一代模型般无休止地游历在线环境、探索和积累经验。开展治理只能借助另一个规模和性能相当的模型，人只能在极少数最关键的节点上提出判断。然而，如前所述，需要治理的模型和治理所需的模型，可能一同集中在高度集中、划一的企业和个体手中。也就是说，权力主体同时掌握了监督权力的手段和工具。
循此，可在五方面稍作推论。一是既然模型治理越发不能脱离模型本身，我们需要从头理解、重新理解以人为本、人类中心和人类监督等对人工智能治理至关重要、可称为基石的概念。与人工智能是主体还是工具这一问题上的趋势相映衬，可能需要更深入的思考，或者做出不可避免的退让与变通。二是与技术权力的集中程度相对，治理能力的集中程度同样前所未遇。亦即，技术权力和治理能力几乎都集中在千余名相当划一的管理人员和工程师手中。全球南方需要就发展的主动权开展合作，也需要就治理的主动权开展合作。三是对AGI中的“G”——通用（General）形成更加全面、深刻的认识。概念内涵上更宽泛的“G”（通用）按其定义，必然包括内涵相对狭窄的“G”——特别是治理（Governance）。发展与治理间因此没有截然的二分。甚至可以断言，对新一代模型来说，发展很大程度就是治理，治理很大程度也是发展。善智即善治，反之亦然。四是重新审视若干新兴的治理原则，包括不限于包容审慎、敏捷治理、实验治理和适应性治理等。一言以蔽之，如果这些原则实践中总是由人来裁量，那当然很好；然而，如果裁量权柄不能操控于人类之手，那就既要充分认可新兴治理原则所承诺的理想情况，也要意识到其不能奏效，甚至加速失控的最差情形。五是特别对立法而言，规则不宜过于严密繁琐。模型本已足够复杂。模型叠加规则如果超越人可以驾驭的限度，规则的适用实施又回到模型手中。如果收获的是越来越多由新一代模型“自我监督”形成的监测、评估、审计信息，不如避免此类设置。总之，新一代模型面对的现实情况和潜在风险前所未遇，需要不同于先前思路的新一代治理方式。
三
新一代模型呼唤技术、应用、监管和基本范畴的系统更新
新一代模型的发展路径趋向及其所致的权力格局面向，要求制定系统性的实践方略。按照从当下到长远、从技术到制度、从浅层到根本的顺序，依循有效鼓励发展、赋能治理应用、科学立法监管和回归基本问题的四个面向，整体性考虑如何鼓励新一代模型和更先进模型发展、赋能国家治理体系和治理能力现代化、科学设计人工智能法“切口”和主线以及以推动若干重大范畴时代更新为核心目标的各方面协调发展的实践方略。
首先是有效鼓励新一代模型和未来更先进的人工智能模型的发展。习近平总书记强调：“要持续加强基础研究”，“统筹推进算力基础设施建设，深化数据资源开发利用和开放共享”，“要综合运用知识产权、财政税收、政府采购、设施开放等政策，做好科技金融文章”，“推进人工智能全学段教育和全社会通识教育，源源不断培养高素质人才”和“完善人工智能科研保障、职业支持和人才评价机制，为各类人才施展才华搭建平台、创造条件”。习近平总书记还在上海考察时对青年创新人才说：“人工智能是年轻的事业，也是年轻人的事业。”结合对新一代模型发展趋势的分析，可以分别细化为：持续加强对规模法则，包括三种不同规模法则成立的范围、条件、上限和成本损益的研究；不仅要加强数据资源的利用共享，为了充分发挥推理和智能行为体的规模法则的威力，还要加强高质量数据和学习环境的建设；做好科技金融文章，高效充实我国主要人工智能企业的资源密度；通过加强对外开放和人才引进等方式，广泛吸引人才，高效充实我国主要人工智能企业的人才密度；特别重视青年人才的发现、培养和使用，在年轻人的事业中，不以年龄论英雄。
其次是以新一代模型赋能国家治理体系和治理能力现代化。关于“智能治理”和“生成式治理”的理论证成、内涵阐释和实施策略，近年来已有许多理论申说，仅从实践角度提出三点补充。一是新一代模型参与各类日常治理事务方面的优势日渐显著。其几乎总是能随时响应、即时产出、灵活应答，质量不断提升且能不厌其烦进行修改。于是，尽管其远非完美，也远不如经验丰富的人，但在各种事多人少的情形中，很难抗拒在治理中引入新一代人工智能大模型。二是新一代模型渗透治理体系未必是以轰轰烈烈的方式，更可能是以水滴石穿的方式。不断在事多人少、情况急迫或能力不足的情况中作为应急使用，随后因其经济高效逐渐成为惯例。日常琐碎的事务常被忽略，也很难有完整全面的统计。三是随着众多部门愈发频繁使用新一代模型开展日常工作，需要持续关注决策链路上人和模型的相对比重。对决策的结果来说，最终的、正式的文书很重要，日常的、琐碎的文书材料也很重要。模型一般不会参与最终的、正式的文书的起草，但有可能参与日常的、琐碎的文书的准备，但如果模型对后者影响的频率和比例达到一定程度，特别是一整条决策链上几乎绝大部分的文书都主要由模型主导或参与撰写，智能治理和生成式治理即将进入切实领域。
进而可以分析、提议更加具体的实践可能。首先，厘清新一代模型的制度定位。简言之，新一代模型及其研发、运营主体既有可能构成网络数据安全意义上的关键基础设施，也有可能构成基础设施层之上的大型互联网平台，同时兼具前二者的重要性，是个体层面、社会层面和国家层面关键性、基础性的认知架构（Cognitive architecture）。或者说，通过在日常生活中时刻响应任务、表示个体意思、代理个体行动，成为个体思维认知和价值观念的构成部分。由此，需在政策和法律层面对这一兼具科技和文化色彩的事物妥加定位。其次，无论设置专门监管新一代模型的部门，还是设置牵头监管或统筹协调部门，实质都将因此获得相当可观的权力，包括通过关键信息基础设施、大型网络平台和关键性、基础性认知架构实质影响其他所有部门日常工作的权力。因此，需要顶层设计、通盘考虑其监管权责的配置。再次，新一代模型监管的权责配置，还需要在技术权力和治理能力高度集中的背景下加以考虑。过往对私权力和平台责任的研究很多依然适用，但新一代模型的问题更加复杂。特别是，如果模型自主行动能力越强，主要人工智能企业对其支配力越发有限，与发生极端风险的可能性相呼应，私权力和平台责任理论各自需要增加新型主体权力和新型主体责任的维度。最后，既在法治轨道上推进新一代模型赋能国家治理，也在法治轨道上保障其有效监管，确保安全、可靠、可控。相关立法势在必行。
其三，正在制定的人工智能法宜将新一代模型治理作为其“切口”和主线。不妨先对相关公开论述略加梳理。习近平总书记在十九届中央政治局第九次集体学习和二十届中央政治局第二十次集体学习时分别指出，“要整合多学科力量，加强人工智能相关法律、伦理、社会问题研究，建立健全保障人工智能健康发展的法律法规、制度体系、伦理道德”以及“加紧制定完善相关法律法规、政策制度、应用规范、伦理准则，构建技术监测、风险预警、应急响应体系，确保人工智能安全、可靠、可控”。党的二十届三中全会决定明确提出“完善生成式人工智能发展和管理机制”，“建立人工智能安全监管制度”。2025年中央政法工作会议指出要研究人工智能新问题,相应地，十四届全国人大常委会立法规划在第一类项目（条件比较成熟、任期内拟提请审议的法律草案）部分，提及“贯彻落实党中央决策部署……推进科技创新和人工智能健康发展等，要求制定、修改、废止、解释相关法律，或者需要由全国人大及其常委会作出相关决定的，适时安排审议”，其2024年年度立法工作计划提及“人工智能健康发展等方面的立法项目，由有关方面抓紧开展调研和起草工作，视情安排审议”，2024年度工作报告提及“围绕人工智能……等新兴领域加强立法研究”，2025年度立法工作计划也提及“人工智能健康发展等方面的立法项目，由有关方面抓紧开展调研和起草工作，视情安排审议”。国务院2023、2024年连续两年将人工智能法草案纳入年度立法工作计划，并在2025年度立法工作计划中提及“推进人工智能健康发展立法工作”。2024年以来，陆续出现了许多相关论述，如阴和俊“有序推进人工智能立法工作”，中共司法部党组在《求是》上撰文“研究完善人工智能……新技术新产业新业态法律法规制度”等。
具体到人工智能法体例、结构和内容的设计，统筹运用立改废释纂修等多种形式，“进一步凝聚共识，探索包容、审慎、分阶段的立法思路”，是最为务实的工作思路。循此，本着“（立法是）在矛盾的焦点上‘砍一刀’”的宗旨，汇总前述分析，可以尝试对人工智能法的主要内容进行以下探索：一是将新一代模型的应急治理，包括防范和应对可能的极端风险与权力失控作为“切口”和主线。就此，欧盟《人工智能法》，特别是其中适用于具备系统性风险的通用人工智能模型的行为守则（Code of Practice）有一定借鉴意义。二是从规模法则出发，可将模型累计用于提升其性能浮点运算总量作为厘定适用范围的阈值。综合多方因素，阈值可设为1026次。算力规模超过阈值，就是需要监管的新一代模型。三是充分吸收新技术新应用安全评估、生成式人工智能备案和大模型备案制度积累的经验，对于新一代模型，要求掌握相关治理手段和工具的相关人工智能企业在完成训练前备案基础信息，并与监管机关就其风险监测保持顺畅沟通。四是同样立足备案制度，特别是大模型备案制度的经验，新一代模型在提供服务前需要经过安全评估。安全评估需要覆盖各类传统风险和极端风险，特别是可能导致失控的极端风险。五是衔接融贯其他法律法规和部门规章，特别是网络数据领域的有关规则。六是为新一代模型的开源提供设定特别规则。评估义务不宜轻，责任设置不宜重。七是为新一代模型在智能终端，包括手机上的使用提供设定特别规则。需注重与私法相关规则的衔接。八是为党政机关应用新一代模型设定特别规则，避免出现违背以人为本的全链条“智能治理”或“生成式治理”。需注重与行政法相关规则的衔接。九是进一步为其他需要设定特别规则的高风险场景凝聚共识。十是进一步加强发展与治理的国际合作。十一是清理阻碍新一代模型发展的旧法，衔接其他有利其发展的新法，如经十四届全国人大常委会第十五次会议通过、自5月20日起施行的《中华人民共和国民营经济促进法》。十二是明确相应主管机关和综合监管机制。其中相当部分的主张，已经体现国内两部具有代表性的人工智能立法学者建议稿，包括《人工智能示范法3.0》和《人工智能法》（学者建议稿）中。最后，加紧研究若干基本但关键的问题。在新一代模型深刻塑造智能社会的背景下，深化其与新质生产力、新型生产关系和相应上层建筑的概念内涵以及相互关系的研究。例如，是否可能提出、证成、探讨相配套的新兴上层建筑概念？近来，已经开始出现对智能社会的社会基本矛盾和社会发展动力的研究，如有学者提出：“仍然需要对在工业社会基础上形成的生产关系和上层建筑进行全面调整、深刻变革，使之与智能科技的特点和智能生产力的发展状况相适应，协同推进智能社会建设与共产主义社会建设。”同时，关注若干重大范畴的时代更新问题。譬如，一体考虑网络、信息、数据和在此基础上发扬规模法则、不断高歌猛进的新一代模型，提出和探讨更新“网络安全和信息化”、证成“网数安全和智能化”范畴。由此，通盘考虑新一代模型既是关键信息基础设施，也是大型网络平台，还是关键性、基础性认知架构的性质，结合以新一代模型赋能国家治理体系和治理能力现代化的需要，时机成熟时，将建立完善新一代模型赋能治理体系、综合监管制度和相关工作机制作为未来继续深化机构改革的重要考虑因素。
结语
习近平总书记在中共中央政治局第二十次集体学习时强调，“面对新一代人工智能技术快速演进的新形势，要充分发挥新型举国体制优势，坚持自立自强，突出应用导向，推动我国人工智能朝着有益、安全、公平方向健康有序发展”；4月29日在上海考察时指出：“上海要总结好以大模型产业生态体系孵化人工智能产业等成功经验，加大探索力度，力争在人工智能发展和治理各方面走在前列，产生示范效应。”这一系列最新的重要论述同样“是对科技发展和智能社会演进的准确把握和对国内外人工智能发展局势的现实回应”。对新一代模型发展路径趋向和权力格局走向的分析，呼唤系统推进技术发展、治理赋能、科学立法和基本问题研究的实践方略。综上，不仅需要通过正确处理新质生产力、新型生产关系和相应上层建筑关系的角度，也需要通过以新一代人工智能赋能国家治理体系和治理能力现代化的角度，一体统筹若干基本问题研究、党和国家机构改革、人工智能法制定和数智化时代背景下的法治领域改革和法治体系完善。新一代模型本身也将在这个过程中发挥许多重要作用。上海可以抓住这一机遇，加大技术和治理探索力度，建设具有示范效应的全球科技创新高地和智能治理高地。具体而言，不仅包括切实推动本地人工智能产业健康有序发展、引领开辟这一年轻事业的创新趋势潮流，还包括以举办2025年世界人工智能大会、探索修订《上海市促进人工智能产业发展条例》为契机，进一步完善、凝练、传播在人工智能治理的中国经验中具备示范效应的“上海经验”。
文章来源
本文载于《上海市社会主义学院学报》2025年第3期。转引转载请注明出处。限于篇幅，注释从略。
引用格式
朱悦.新一代人工智能大模型：发展路径、权力格局和实践方略［J］.上海市社会主义学院学报，2025（3）：50-65.
投稿地址
https://shzy.magtechjournal.com，欢迎赐稿！
