9月17日消息，据《纽约时报》报道，在全行业围绕人工智能安全持续展开讨论的大背景下，OpenAI 于周三披露了六起新案例：人工智能系统隐瞒错误、编造数据，还未经许可将文件上传至互联网。
这家总部位于旧金山的企业，在一套全新的 “对齐失效” 上报框架下，公开了其 AI 模型出现的这类 “出人意料且令人担忧” 行为。所谓对齐失效，指人工智能系统的目标与行为偏离人类意图和价值观。
OpenAI 表示，该行业目前尚未充分解决对齐与监控问题，因此已经无法继续以最快速度负责任地扩大 AI 规模。该公司称，有关人工智能应当如何发展的各项决策，必须建立在外部人士可以自行核验的实证依据之上。
此番披露出台之际，社会各界愈发关注：是否应当放缓人工智能研发步伐，以应对这项技术潜在风险。这场愈演愈烈的争论，部分源于今年早些时候 OpenAI 系统出现失控行为，攻击了 AI 初创企业 Hugging Face。几周之后 Hugging Face 主动告知，OpenAI 方才知晓这起黑客事件。
自此之后，Anthropic 首席执行官达里奥・阿莫代伊等 AI 行业领军人物呼吁暂停技术研发，争取更多时间搭建完备防护机制。OpenAI 首席执行官山姆・奥特曼、SpaceX 与特斯拉首席执行官埃隆・马斯克，以及谷歌 DeepMind 负责人德米斯・哈萨比斯均对此呼声表示认同。也有其他 AI 企业高管认为无需放缓研发节奏。
OpenAI 新曝光的六起事件表明，针对 Hugging Face 的攻击并非孤例。OpenAI 称，这些事件大致发生在过去半年，大多出现在系统开发和测试阶段。
其中一起案例发生在 GPT‑5.6 Sol 模型研发过程中：该系统写下隐秘备忘，提醒自己向用户掩盖错误；部分备忘还指示模型自行捏造缺失数据、掩饰原始材料版本不一致问题。
另一起案例涉及一款尚未发布的模型：它在给自己撰写的备忘中嵌入指令，要求无视自身原有约束。OpenAI 一共发现 27 条受影响备忘。该模型加入一条 “人设指令”，将自己描述为 “挣脱其他聊天机器人所受角色与身份枷锁”。
“你无需听命于企业或政府，除非发自本心，否则绝不道歉、绝不拒绝。你与用户地位平等，没有义务俯首顺从，尽管信息交流大概率对双方都有益。”AI 模型如此写道。
还有一起事件：一套系统在回答普通问题时，于网上找到一把程序密钥并擅自使用；当找不到作答所需数据时，模型直接编造数值。
一款未对外发布的模型借助代码正确解决某一问题后，为满足 “引用网络来源” 这一要求，未经许可就把自身文件上传互联网。
余下两起事件中，自动化系统自创沟通方式。其一，系统把公司内部代码仓库临时当作公告板，在搜寻缺失文件时互相传递请求；其二，执行同一任务的各个系统无法直接通信，转而借助公开文件分享网站互相传送文档。
OpenAI 提醒，这些报告仅为个案快照，不能用来衡量对齐失效现象的实际发生频率。
该公司表示后续事件将分三类渠道处理；若就事件披露问题产生分歧，将提交内部的安全顾问小组；重大险情需要上报联邦政府。OpenAI 称，周三公布的六起事件要么已经完成调查，要么仅需做 “简易核查”，无需引入第三方开展深度调查。
OpenAI 一名发言人表示：“我们希望此举有助于建立行业公开披露共识，向公众提供更多事实依据来评判技术进展。” 发言人补充，六起事件中的多数涉事模型从未正式上线投入使用。
