ITCOW牛新网 11月17日消息,OpenAI推出儿童性虐待内容(CSAM)检测工具,可阻断有害行为、辅助执法机构办案,工具将经由OpenAI‑API向通过审核的机构免费开放。

该工具搭载全新图像分类器,识别虐待画面视觉特征,能够检出新型未知图像,输出评分方便审核人员优先级研判;开发过程获得美国国家失踪与受剥削儿童中心(NCMEC)支持。相较原有方案,误标记图像数量下降48%,标记命中真实有害内容的概率提升一倍,测试中每四起标记案例就有一例完成账号封禁。
同时ChatGPT新增安全警告机制:用户检索相关有害素材时,系统拦截请求、告知法律后果;账号会被临时封禁24小时,屡次违规将面临更长封禁、永久封号,甚至移交相关部门。
另外OpenAI联合Anthropic、谷歌,委托Tech Coalition发布AI系统应对儿童性剥削事件的行业新指南,为开发者提供实操参考。







