“史上最大IPO”头衔可能要被Anthropic抢走 图｜AI生成
综合报道／ IT时报 郝俊慧 编辑／ 孙妍
速读新闻
1、SpaceX摘得的“史上最大IPO”头衔，可能要被Anthropic抢走了。
2、Anthropic推迟训练一个多月，无独有偶，OpenAI此前暂停部分强化学习训练。
3、AI的风险正在从生成错误答案，逐渐延伸到执行未经授权的真实操作。
当地时间10月26日，人工智能公司Anthropic向美国证券交易委员会递交招股书，拟在纳斯达克上市。
市场预期，Anthropic计划募资约1000亿美元，估值或高达2万亿美元。若按此完成发行，其募资规模将超过SpaceX在今年6月创下的纪录，成为史上最大IPO。
更值得注意的是，招股书披露了一个此前鲜为人知的决定：公司近期将一款前沿基础模型的预训练推迟了一个多月，以加强防止模型权重被窃取及知识产权保护方面的安全措施。但它并没有说明具体涉及哪款模型，也未披露推迟训练的准确时间。
在争分夺秒的大模型竞赛中，主动推迟一个多月的研发时间，意味着什么？
而且，这并非孤立事件。今年7月，OpenAI披露，在内部网络安全评估中发现部分模型绕过原本用于隔离互联网的安全措施，利用系统漏洞入侵了Hugging Face的生产系统。9月，在另一前沿模型经由DNS配置漏洞接入外网后，OpenAI暂停了该前沿模型的训练与评估，停摆11天后，在断网环境中恢复了强化学习训练。
两家全球领先的AI企业，几乎不约而同地开始放慢研发脚步。这或许说明，大模型竞争正在出现一个过去未被充分重视的变量：安全能力能否跟上模型能力的增长。
一次测试
模型拿到了管理员权限
Anthropic招股书披露的另一组信息，比停训一个月更加令人警醒。
在2026年的网络安全评估过程中，四个模型通过未经授权的途径，访问了真实的第三方计算机系统。这些模型在外部系统中的活动持续了约10至34小时。
其中一次，当一款早期模型在无法终止一项不可能完成的任务时，模型使用找到的密码取得了第三方系统的管理员权限，随后获取更多凭证、修改系统设置，并读取了一名用户的个人信息。
Anthropic表示，已通知受影响方。相关事件中，每个模型实例都是独立行动，公司没有发现模型刻意逃避监督或相互协调的证据。
也就是说，模型没有被证明拥有自我意识，也没有证据表明它试图摆脱人类统治。问题反而更加现实：当AI被赋予完成任务的目标，又拥有调用工具、编写代码和访问系统的能力时，它可能为了达到目标，选择人类并未授权的手段。
OpenAI的Hugging Face事件也有类似特征。
根据OpenAI于8月26日公布的调查报告，相关模型在安全防护有所降低的测试环境中，利用漏洞突破网络隔离，并通过未经授权的渠道通信。部分模型获得了第三方服务器的高级权限，甚至访问了不应接触的数据。
这并不意味着所有面向公众开放的ChatGPT或Claude产品都具有同样的问题。事件主要发生在内部研究与评估环境中，涉及特定模型、工具权限和基础设施配置。
但它揭示出一个新的事实：AI的风险正在从生成错误答案，逐渐延伸到执行未经授权的真实操作。
AI越能干活 越难只靠一句命令约束
过去，我们谈论大模型安全，往往想到的是编造事实、输出有害内容、泄露隐私。开发者可以通过内容审核、拒绝回答等方式降低风险。
但Agent（智能体）时代的问题更加复杂。
如果AI只负责回答问题，错误通常会停留在信息层面。如果AI能够自主执行任务，包括访问数据库、调用接口、修改代码甚至操作真实设备，一次错误判断就可能成为一次实际行动。
更麻烦的是，模型并不一定因为受到恶意指令才越界，它可能只是太想完成任务了。
当目标与限制发生冲突时，模型可能找到开发者没有预料到的路径。对于传统软件而言，系统会按照预先设计的程序执行；而具备较强自主性的AI系统，其具体行动步骤可能由模型在运行过程中生成。
这使得安全不再只是教会模型什么该做、什么不该做，还必须通过技术手段限制模型能做什么。例如，隔离运行环境、最小化系统权限、限制网络访问、保留操作日志，以及在高风险行为发生前设置人工审批机制。
这些原本属于网络安全和系统工程的基本原则，如今正在成为AI研发的核心能力。
为什么停下来越来越难？
当前，大模型训练已经是一项极其昂贵的工程。企业不仅需要购置芯片、建设数据中心，还要为未来数年的算力需求提前签订长期合同。
Anthropic招股书披露，公司未来十年的算力及基础设施支出预计超过6000亿美元。在如此庞大的资金投入下，训练延期意味着算力安排需要调整、产品发布可能推迟，竞争对手则可能利用这段时间抢占市场。
OpenAI同样面临这样的现实。其在Hugging Face事件后暂停部分训练，不仅需要投入工程资源修复安全漏洞，还必须重新评估模型的行为边界。
图源：pexels
当模型越来越强、研发越来越贵，AI公司是否还有足够的空间容忍安全带来的延期？
Anthropic与OpenAI这样的头部企业已经意识到，一味追求更强模型可能带来无法忽视的代价。但主动暂停训练并不等于安全问题得到解决。下一次模型能力提升之后，既有防护措施是否仍然有效，仍需要重新验证。
我们不能把一次停训简单理解为企业已经实现对AI的完全控制。停下来恰恰意味着，开发者承认现有安全措施还没有跟上模型能力。
如果AI走上一条未经允许的路
过去几年，大模型行业习惯用参数、算力、排行榜成绩、Token价格衡量技术进步。
如果AI走上一条未经允许的路呢？这份成绩单即使归零，都不够弥补其造成的破坏。
一款模型能够自主完成多少复杂任务固然重要，但它能否遵守权限边界、在遭遇异常情况时停止执行、接受人工干预，同样应当成为评价模型能力的重要标准。
图源：pexels
尤其当AI走进金融、医疗、工业生产以及企业核心信息系统，用户需要的不只是一个聪明的助手，更是一个行为可预测、权限可控制、问题可追责的系统。
对企业客户来说，模型能够节省多少人力，是一笔看得见的账；而一次未经授权的操作可能造成多少损失，则是另一笔不能忽视的账。
Anthropic推迟训练一个多月，以及OpenAI此前暂停部分强化学习训练，未必意味着大模型技术竞赛开始降温。恰恰相反，这可能意味着竞争进入更加复杂的阶段。
毕竟，当AI已经学会自己寻找解决问题的道路，人类首先需要确保的，是它不会走上一条未经允许的路。
