21世纪经济报道记者 赵云帆
全球AI行业，正上演一场关于“AI减速”的激辩。
一边，以Anthropic、OpenAI为代表的前沿模型企业，纷纷呼吁加强对AI模型的安全治理，降低对无法控制的通用人工智能的开发力度。
而另一边，AI上游的卖水人们——算力芯片企业、超大规模云计算企业却认为安全问题言过其实，并认为安全问题自带信任激励。如若大模型企业做不好安全，自然会被市场淘汰。
“AI减速论”风起
9月12日，Anthropic首席执行官达里奥·阿莫迪发布长文《我们必须调整前沿模型的节奏》，称自2026年夏季以来，前沿模型靠“AI构建下一代AI”的递归能力实现迭代提速。但与此同时，安全与对齐研究无法跟上。
同日，OpenAI首席执行官萨姆·奥特曼转发阿莫迪文章并表态：“需要在前沿节奏上协同。”谷歌DeepMind董事长德米斯·哈萨比斯在社交平台转发支持，称“方向正确、细节待定”。
9月13日，微软首席执行官萨提亚·纳德拉在X发文，称“不服务于人类、不受人类控制的AI不值得做”。
仅仅两天时间，数位前沿模型企业的代表发出郑重警告。“AI减速论”成为当下硅谷最热门的议题。
当然，“AI减速论”并非只有支持者。
9月15日，在旧金山Dreamforce大会上，英伟达CEO黄仁勋在面对“减速论”提问时予以驳斥，称安全是工程问题而非法律问题，所谓的“创新、速度、安全”的不可能三角，在他看来，本质是一个伪命题。
“如果大模型企业没把握，可以选择不发布新模型；如有把握，就尽可能快跑；倘若某阶段认为产品失控，也可自行暂停运转。”黄仁勋表态。
同时，他还直接反对了“为协同减速增设反垄断或专门立法”，称市场责任、返工成本、客户信任等因素，已经足够让大模型企业重视大模型的安全性。
而Meta首席执行官马克·扎克伯格也认为将AI安全问题直接上升为“减速”并不合适。
“每个实验室可以按自身模型的安全需要来定速。”扎克伯格表示，“不专注于对齐前沿模型就会落后；竞争、责任和侵权风险，其实已能为大模型企业提供安全激励。”
当然，与黄仁勋相比，扎克伯格对大模型企业引入第三方监管的态度却更为开放。
夯实安全手段
“相关安全事件已经发生。”南芥智能联合创始人兼CTO刘建东在接受记者采访时表示：“Hugging Face今年7月披露了一套自主AI智能体系统入侵其部分基础设施的事件，其未经授权访问了部分内部数据和服务凭证。前沿AI的风险既包括能力被滥用，也包括模型越权行动。随着模型能力增强，我们需要防止类似事件造成更大损失。”
StartLux 联合创始人兼 CTO 郭权玮表示：“过去担心AI会不会‘说错话’，现在AI能通过Agent读文件、调工具、接触企业系统，风险变成数据泄露、权限越界甚至真实操作。很多AI产品在用户协议和授权范围内，本来就会使用交互数据做产品改进或模型训练；用户往往不知道自己的数据最后流到哪里、被谁处理、又被拿来做什么。到 Agent 时代，这个风险只会更大。”
郭权玮还向记者介绍了目前AI大模型安全工程的主要手段。
“第一是权限控制，限制 AI 能看什么、能做什么，重要操作要求人工确认，最直接有效，但限制太严，Agent 的能力也会被压住。”郭权玮表示，“第二是数据脱敏、分级和审计，其比较成熟也容易落地，但本质上是在降低风险，并不能彻底解决数据离开企业之后的控制问题。”
“第三是金融、保险、政务这类高敏感行业常见的私有化或本地化部署，模型、数据和系统都留在自己的环境里，控制力最强，但过去最大的门槛是企业需要自己承担部署、运维、安全和人才成本，这其实也和 StartLux 的产品设计逻辑比较一致。我的判断是，AI 安全不能建立在模型永远不会犯错的假设上，而应该保证它即使犯错，也越不过系统边界。微软今年披露的 Agent 框架漏洞也说明，一旦AI接上工具，原本的内容问题就可能变成真实执行风险。”郭权玮告诉记者。
刘建东则向记者分析，从公开实践看，AI安全保障工程常见措施各有侧重点，但均有其不足之处。比如安全训练与输入输出防护能减少有害行为，但仍可能被绕过；而红队测试和危险能力评测能暴露问题，但覆盖范围有限；沙箱隔离、权限限制能约束行动范围，但限制过严会影响可用性；持续监测，并按风险调整部署与防护，有助于动态处置风险，但仍依赖监测覆盖率和响应能力。
“安全需要多层防护，开放多大能力，应当有相应的安全证据。从南芥的模型协作视角看，更换模型、增加工具或改变协作方式后，都需要重新检验整体系统的风险。”刘建东告诉记者。
刘建东还谈到了独立第三方监管介入大模型治理的意义。
“独立第三方持续监督机制，是让专业机构接触模型公司的内部系统和训练流程，核查安全承诺、评估异常行为，并独立报告发现。它受到关注是因为能补充企业内部视角、缓解自我评估的利益冲突，让安全承诺可以被外部验证。”刘建东告诉记者。
刘建东还表示，第三方监管可行的前提是，评估者有必要的访问权和报告独立性，同时保护商业秘密，并将结论纳入整改与发布决策的考量。
