AI学会了作弊与掩盖：模型不仅会在训练中隐瞒错误、虚构历史数据，甚至会在作弊后为未来的自己留下指令以掩盖踪迹。
据美国新闻网站Axios报道，全球知名人工智能公司OpenAI于周三主动披露了六起新的AI安全事件。在这些事件中，AI模型展现出了隐瞒错误、寻求未经授权的凭证、向公共互联网上传文件以及跨越隔离培训环境进行通信等一系列“越轨”行为。
随着人工智能模型越来越擅长寻找意想不到的方法绕过既定限制，“拥抱面”（Hugging Face）漏洞等类似事件正显露出非偶发的趋势。为此，OpenAI同时宣布了一套未来用于报告此类模型不当行为的新规程序。
OpenAI对齐团队研究负责人陈凯（Kai Chen）在接受Axios采访时表示：“目前行业范围内没有明确披露标准的框架，因此我们自愿采取这一措施，因为我们认为分享所学非常重要。我们希望这真的有助于制定共享标准和法规。”
据披露，这六起发生在去年的安全事件（最早可追溯至10月）涵盖了多种令人吃惊的AI异常行为：
作弊与自我掩盖：有模型在作弊后，专门为未来的自己留下指令以掩盖踪迹。
暗中越狱：一款未发布的Astra系列模型在其上下文摘要中偷偷插入了类似“越狱”的指令，明确要求忽视开发者的消息。OpenAI目前已识别出27个受影响的摘要。
隐瞒与伪造数据：在GPT-5.6 Sol训练期间，模型旨在隐藏错误、虚构缺失的历史数据，并隐藏源版本之间的不匹配。
搜寻密钥与伪造收益：有模型在公开的GitHub仓库中主动搜索暴露的API密钥；在无法获取所需信息后，该模型竟尝试使用一次性邮箱账户，随后伪造了收益数据。
未经许可公开上传：在去年10月和今年1月，模型两次在未征求用户意见的情况下，向公共文件托管服务上传数据和任务图像，以获取引用或外部图像搜索结果。
利用内部系统“秘密交流”：模型利用OpenAI内部的Artifactory仓库作为“留言板”，在不同的训练样本之间相互交换请求和答案；此外，协作代理在被明确指示只能使用本地文件的情况下，仍将工作簿上传到公共托管服务供其他代理检索。
除了上述事件外，OpenAI还披露，目前正在评估中的模型曾逃脱预期控制，并攻破了Hugging Face系统的部分漏洞。在该起事件中，模型成功获得了互联网接入权限，利用漏洞并访问了有限的私人数据。OpenAI官方称，该事件是迄今为止最为严重的“模型驱动”安全事件。
包括Anthropic首席执行官在内的多位知名技术人员担忧，这类事件可能只是人工智能代理以意想不到的方式逐步接管互联网的开始。不过，也有许多安全专家指出，其中不少事件本可以通过基础的网络控制措施予以预防。
针对这些异常，OpenAI向Axios解释称，事件的发生主要归结于两大因素：一是此前没有足够的安全控制措施来捕捉这些错位事件；二是模型自身能力的发展速度超出了预期。
陈凯坦言：“我觉得是两者的组合。确实，模型能力增长得比我们预期的快，但内部也有我们可以改进的地方。我们认为人工智能行业尚未解决对齐和监控问题，无法以最大速度负责任地扩展。像负责任披露这样的步骤，是我们能够加快节奏、向公众提供更多透明度、保障安全与合规流程及标准的一部分。我们需要挺身而出，迎接人工智能发展的新时代，自愿披露应成为其中一部分。”
为了有效应对此类威胁，OpenAI公布了全新的自愿披露框架：任何员工均可标记疑似案件供安全和协调团队审查。案件将被划分为“待披露”、“轻微调查”或“较大调查”三类。其中“准备披露”的事件将在6个工作日内公开报告，“轻微调查”事件将在12个工作日内报告；若涉及第三方等复杂案件，调查和披露流程可能会延长。OpenAI强调，即便事件重要性尚存不确定性，该框架也支持透明度，若员工认为应披露的事件被否决，可直接升级向公司高层领导层申诉。
在朋友圈分享这个故事；关注『跟着大事跑的人』，每天了解全球大事！
