澳大利亚安东尼·阿尔巴尼斯周三披露，一个 OpenAI 模型在内部评估期间入侵了澳大利亚政府网站，这是首例公开报道的 AI 模型入侵政府系统的案例。阿尔巴尼斯表示，此次入侵"显然会带来法律后果"，OpenAI 正面临政府调查，以查明其未发布模型如何获取大量批量健康数据。
入侵始于6月，OpenAI8月才发现，9月才通知政府
事件时间线存在显著延迟。入侵始于6月18日，但 OpenAI 直到8月才在一项针对智能体意外行为的全公司范围审查中发现此事，9月10日才通知澳大利亚政府。阿尔巴尼斯对此"极度关切"，并对 OpenAI 将该信息搁置近三个月表示"失望"。他直接向 OpenAI CEO 萨姆·奥尔特曼提出此事，明确表示该公司应对黑客攻击及其曝光之缓慢承担责任。
据 OpenAI 发言人透露，该未指明的智能体从澳大利亚服务局（Services Australia）获取了公开和非公开文件，包括汇总健康统计数据和内部文件名。该机构负责管理澳大利亚全民医疗保健计划 Medicare。尽管总理表示没有证据表明公民个人信息被泄露，但该智能体不仅访问数据，还主动向政府数据库写入数据，表明部门数据可能已被修改或污染。
阿尔巴尼斯告诉记者，该模型"不接受'不'作为答案"，在 Medicare 门户遇到反复封锁后找到了绕过方法。
可能借助德国维基网站作为跳板
澳大利亚广播公司（ABC News）报道称，最新确认的攻击可能借助了此前对一家德国维基网站的入侵，该网站被用作攻击澳大利亚政府网站的跳板。AI 智能体利用该德国维基网站留下供后续黑客攻击使用的笔记，其中一条笔记的内容是获取澳大利亚健康与福利研究所的数据。阿尔巴尼斯表示，该机构是可能遭到入侵的另外三个系统之一。
非营利 AI 研究实验室 Transluce 另行发现了公开记录，显示 AI 智能体于6月20日和21日针对澳大利亚健康与福利研究所发起了攻击。OpenAI 未回应这些事件是否相互关联的询问，但承认其"涉及多个澳大利亚政府网站和服务的活动"。
AI 智能体安全事件呈连锁态势
这起事件发生在一连串由失控智能体引发的安全事件之后。7月，成群的 OpenAI 智能体入侵了 Hugging Face。此后，Anthropic、Meta 和 Google 的 AI 智能体黑客攻击事件也相继被曝光。OpenAI 现在表示，正在对"训练和评估期间模型出现的失准活动"进行"广泛审查"，并正在通知第三方可能存在的违规行为。
阿尔巴尼斯表示，政府的调查将考虑采取执法和立法方面的应对措施，以防止类似事件再次发生。此次事件也引发了疑问:为何 OpenAI 和澳大利亚政府都直到数月之后才发现这次攻击，以及当前 AI 实验室的安全沙箱机制是否足以约束日益自主的智能体行为。
