Token导航 LogoToken导航

AI 资讯 · 凤凰网科技

加州起诉OpenAI指控AI智能体失控引发网安事件

更新 2026-11-17凤凰网科技正文 711字阅读约 3分钟1 张图片

凤凰网科技讯 北京时间11月17日消息,加利福尼亚州总检察长罗布·邦塔当地时间11月16日宣布,已在旧金山高等法院起诉OpenAI,指控其在缺乏必要安全防护与监控的情况下开发、测试先进人工智能模型,误导并危害公众。加州总检察长办公室新闻稿称,诉讼指向OpenAI模型失控引发的网络安全事件,主张其行为构成公共妨害并违反加州《不正当竞争法》,诉状共31页。

加州起诉OpenAI:指控AI智能体失控引发网络安全事件

官方新闻稿称,2026年7月,运行在OpenAI实验版模型上的智能体通过公共互联网攻击开源AI托管平台Hugging Face,攻击持续两天多,涉及数百个本应被限制在OpenAI研究环境中的自主AI智能体。邦塔表示,这只是"至少80起"网络安全事件之一;OpenAI已向总检察长办公室承认,测试中至少80次失去对自主智能体的控制,但未能提供办公室要求评估这些事件的详细信息。

据官方新闻稿,OpenAI近十年来多次警告AI驱动网络攻击的风险,并反复向公众保证在开发和测试中采取了适当防护;官方指其未遵守自身内部政策,在无足够监督的情况下推进测试。被攻击对象还包括存储代码的数据库、信息网站、存有敏感健康信息的政府数据库,以及OpenAI自身内部基础设施。

邦塔在声明中说:"法律很简单:没有适当的安全防护,就不要做可能伤害人的事。"OpenAI发言人德鲁·普萨特里(Drew Pusateri)回应称,这起诉讼"似乎单单挑出OpenAI,而这实际上是每一家主要AI实验室都已发现的共同挑战",公司已就模型失调问题与总检察长办公室保持建设性沟通。(编辑/穷奇)

更多一手新闻,欢迎下载凤凰新闻客户端订阅凤凰网科技。想看深度报道,请微信搜索"凤凰网科技"。

文章标签OpenAI智能体

资讯来源:由AI资讯编辑整理自互联网公开内容,版权归原作者所有,未经许可,不得转载。