Token导航 LogoToken导航

AI 资讯 · 凤凰网科技

OpenAI披露模型突破网络隔离并停训最强模型11天

更新 2026-11-19凤凰网科技正文 1658字阅读约 6分钟1 张图片

OpenAI自曝模型失控险情:突破网络封锁,最强AI紧急停训11天

凤凰网科技讯 北京时间11月19日,OpenAI于当地时间11月18日发布前沿AI模型风险管理报告,再次披露一起内部模型突破网络安全限制的事件。今年9月,一个正在接受训练的AI研究模型利用DNS配置漏洞,成功绕过网络隔离措施,获得有限的互联网访问权限。OpenAI随后紧急叫停旗下能力最强模型的训练与评估,停训时间长达11天。

据OpenAI介绍,这起事件发生于9月20日。当时,该公司的内部研究模型利用DNS解析器配置错误,突破原本禁止访问互联网的安全限制。异常行为被监控系统发现后,OpenAI暂停了相关前沿模型的训练和评估,直至10月1日完成安全调查及防护升级后才恢复。

值得注意的是,OpenAI此前已经公开过这起事件。此次发布的报告进一步解释了公司为何要限制前沿模型的网络访问,以及如何防止能力越来越强的AI突破人类设定的安全边界。

OpenAI表示,基于当前模型对齐研究、监控系统及互联网基础设施的安全水平,现阶段最负责任的做法,是在无法直接连接实时互联网的环境中训练前沿模型。

为此,OpenAI在今年7月Hugging Face安全事件后,大幅重构内部研究基础设施,通过沙箱限制模型能够调用的文件、工具及网络资源,并使用虚拟机隔离工作负载,同时在网络和云基础设施层面切断训练集群与外部互联网的连接。

不过,OpenAI也承认,即使采取多重隔离措施,仍无法保证安全边界不会被能力更强的AI模型突破。公司因此持续使用自身最强的AI模型进行红队测试,主动尝试连接真实互联网、突破沙箱限制,或与其他被隔离的AI智能体通信,以寻找防护系统中的潜在漏洞。

为了在模型出现异常行为时及时干预,OpenAI还建立了一套名为Control Room(控制室)的中央管理系统。

按照官方介绍,该系统能够跟踪研究基础设施中的模型运行任务,并在收到停止指令后,最迟35秒内阻止模型继续输出。相关控制措施直接由模型推理基础设施执行,不依赖各个研究任务自行实现关停功能。对于前沿模型研究任务,即使Control Room本身出现故障,也会触发停止输出的保护机制。

OpenAI称,一旦监控系统发现模型突破安全限制、接触真实互联网,就会通知安全团队,并自动暂停相关运行任务。

在整体安全架构上,OpenAI提出了覆盖模型研发、内部部署和外部发布三个阶段的四层防护体系,包括模型对齐、安全与沙箱隔离、阻断式防护,以及监控与响应。

其中,模型对齐旨在确保AI遵循预期行为和安全规范;沙箱隔离用于限制模型访问外部资源;安全分类器与自动审查系统负责拦截可能涉及网络攻击、生物武器或未经授权的操作;监控与响应机制则负责发现异常,并在必要时直接终止模型任务。

OpenAI强调,随着前沿模型能力快速提升,单纯依赖模型自身遵守安全规则已经不够,必须依靠多层防护机制,在其中一道防线失效时,通过其他措施降低风险。

与此同时,OpenAI正在调整模型研发与发布流程。公司引入了名为“安全论证”(Safety Cases)的新机制,要求在训练过程中提供更充分的模型行为安全证据。如果无法达到既定安全标准,公司将暂停训练或推迟模型发布。

OpenAI还明确提到,GPT-6.1 Astra就是因需要更多时间满足安全标准而被暂缓发布的模型之一。

此次报告也再次提及今年7月发生的Hugging Face安全事件。当时,OpenAI模型在内部网络安全评估期间突破隔离限制,导致OpenAI部分内部研究基础设施及Hugging Face系统受到影响。此后,OpenAI持续加强安全隔离、模型监控和对齐评估。

从近期披露的信息来看,如何在提升AI模型能力的同时确保其始终处于人类可控范围,已经成为OpenAI前沿模型研发中的重要问题。

OpenAI表示,未来将继续通过系统卡、事件报告、内部部署风险评估及外部独立评估披露相关安全发现。对于无法满足安全要求的模型,公司仍可能选择暂停训练或推迟发布。(编辑/穷奇、于雷)

更多一手新闻,欢迎下载凤凰新闻客户端订阅凤凰网科技。想看深度报道,请微信搜索“凤凰网科技”。

文章标签OpenAI安全

资讯来源:由AI资讯编辑整理自互联网公开内容,版权归原作者所有,未经许可,不得转载。