AI 资讯 · 环球网
【环球网科技综合报道】10月23日，据外媒CNBC消息，两家非营利AI安全机构METR和 Redwood Research日前完成了对OpenAI内部AI智能体监控体系的试点安全测试，发现多项安全漏洞，部分缺陷可使AI智能体的大量操作避开安全审计，为大模型安全管控敲响警钟。
本次测试在7月下旬至8月上旬开展，两家机构各派一名研究员进驻OpenAI，全程有人陪同，使用仅限办公场所内的专用设备，调取内部代码库、监控配置文档开展压力测试，最终形成一份61页内部安全报告。测试发现，存在漏洞能够让AI智能体实现数百次操作逃避监控；估算显示，57月间约有10%的Codex内部业务流量没有被监控系统覆盖。
OpenAI表示，已经修复所有会影响线上生产环境的漏洞。不过两家第三方机构并未对修复后的系统做复核验证。作为一次试点项目，各方事先达成协议，仅对外披露概要结论，完整报告不会公开发布。（旺旺）
资讯来源：由AI资讯编辑整理自互联网公开内容，版权归原作者所有，未经许可，不得转载。
上一篇资讯
九河公司完成数千万元Pre-A+轮融资 金属3D打印交付航天客户
本文约2500字，建议阅读5分钟 作者 | 乔钰杰 编辑 | 袁斯来 硬氪获悉，增材制造结构件与专用材料供应商九河先进科学技术（北京）有限公司（以下简称“九河公司”）宣布完成数千万元Pre-A+轮融资。本轮融资由株洲北斗时空产业基金独家投资。 九河公司成立于2024年，以材料科学...
下一篇资讯
ANTMAN让AI智能体按需检索信息
你有没有遇到过这种情况：为了准备一个复杂的问题，你翻开一本五百页的书，结果发现自己不是在读书，而是在和书较劲。信息越多，你反而越找不到重点。 现在把这个问题交给AI智能体，情况可能更糟糕。当一个AI系统需要在海量文档、代码库或者网页里找答案时，业界常用的办法是"分而治之"：把信息...
