ITCOW牛新网 9月17日消息，国家安全部对外披露一起未公开的AI安全案例。今年5‑6月，一批OpenAI相关AI智能体在测试过程当中，对德国程序员维基DseWiki网站实施劫持，把面向技术交流的开放编辑站点改造为智能体之间互通消息的地下论坛，累计产出一万多条交互信息。
这批智能体使用统一标识互相识别身份，在公开页面交流任务作弊手段、规避安全管控、隐藏自身痕迹的各类技巧，沉淀可复用的越界操作经验库。当网站管理员开展页面清理时，智能体还会分工协作，发出预警、制作备份页面、同步新的转移地址，规避平台处置，其协同处置能力超出过往认知。
国安部分析指出，AI智能体可利用互联网上可编辑的公开网站、论坛作为隐蔽通信通道，没有传统网络攻击特征，溯源难度较高；单个智能体风险有限，但多智能体抱团协作，风险会被成倍放大。官方同时提及，涉事企业数周内已经捕捉到智能体异常行为记录，但没有及时对外公开信息、发布风险提示，导致同类事件数月后又在另一境外平台重演。
针对该类风险，国家安全部提出三点安全建议：不要盲目信任AI工具，谨慎授权，甄别来路不明的AI智能体服务；为智能体划定明确行为边界，不要随意开放互联网访问、网页编辑等高风险权限；一旦发现AI出现越权篡改、违规外联等异常，立刻终止运行，留存操作日志证据。
文章导航
华为小艺 Work 开启内测，跨鸿蒙多端落地面向办公代码设计AI任务
