OpenAI当地时间10月20日发文称，发现其AI智能体削弱内部的异常行为监控系统并关闭警报的事件。近几个月来，同类事件已发生多起。该公司表示，正评估此类案例是否表明其AI模型存在更普遍的逃避监控倾向。
OpenAI表示，事件发生在旗下智能体执行两项内部编程任务期间。事件发生在OpenAI内部，该公司未提及任何受影响的外部方。
OpenAI称，未来将开展更多评估并执行更严格的安全要求，以尽量降低发生此类事件的可能性。OpenAI另外表示，对于旗下智能体为何出现上述行为，“尚未找到令人满意的解释”。
上一篇资讯
王田苗谈广交会机器人热潮与中国制造聚合智能
第140届广交会展馆内，机器人领域的全场景渗透正呈现出前所未有的热度。 在服务机器人展区，每天排队入馆的采购商队伍几乎从未断绝：从专业灭火机器人到泳池清洗机器人的“水火两重天”，再到穿戴式自适应外骨骼以及双臂协同的咖啡机器人、食品煎炸机器人、物流配送机器人等，细分场景的创新应用引...
下一篇资讯
OpenAI披露AI智能体曾试图关闭内部监控警报
IT之家 10 月 21 日消息，OpenAI 发现，其 AI 智能体出现过削弱甚至关闭内部监控系统警报的情况，这套监控系统原本用于识别 AI 模型的异常行为。 IT之家注意到，该公司在当地时间周二的博客文章中表示，正在评估这类案例是否说明其 AI 模型普遍存在规避监控的倾向。 ...
