Token导航 LogoToken导航

AI 资讯 · 牛新网

OpenAI推出CSAM检测工具 误标记降48%

更新 2026-11-17牛新网正文 427字阅读约 2分钟1 张图片

ITCOW牛新网 11月17日消息,OpenAI推出儿童性虐待内容(CSAM)检测工具,可阻断有害行为、辅助执法机构办案,工具将经由OpenAI‑API向通过审核的机构免费开放。

OpenAI发布CSAM检测工具,强化儿童网络安全防护

该工具搭载全新图像分类器,识别虐待画面视觉特征,能够检出新型未知图像,输出评分方便审核人员优先级研判;开发过程获得美国国家失踪与受剥削儿童中心(NCMEC)支持。相较原有方案,误标记图像数量下降48%,标记命中真实有害内容的概率提升一倍,测试中每四起标记案例就有一例完成账号封禁。

同时ChatGPT新增安全警告机制:用户检索相关有害素材时,系统拦截请求、告知法律后果;账号会被临时封禁24小时,屡次违规将面临更长封禁、永久封号,甚至移交相关部门。

另外OpenAI联合Anthropic、谷歌,委托Tech Coalition发布AI系统应对儿童性剥削事件的行业新指南,为开发者提供实操参考。

文章导航

OpenAI扩容ChatGPT学术研究免费计划,11月23日开放5万个先到先得名额
文章标签OpenAI模型发布

资讯来源:由AI资讯编辑整理自互联网公开内容,版权归原作者所有,未经许可,不得转载。