ITCOW牛新网 8月24日消息，OpenAI近期推出面向年轻用户的青少年版ChatGPT，依靠年龄识别机制限制部分功能。多名儿童安全专家接受外媒采访后，对产品提出多项质疑，呼吁开展大量独立测试，要求OpenAI提高安全机制透明度。
专家主要顾虑如下：
- 年龄识别系统存疑：官方没有公开误报、漏报相关效果数据，自动识别很难精准识别全部青少年，青少年也存在绕过年龄检测的可能性。
- 人工审核机制可信度存疑：OpenAI宣称标记内容全部交由全职员工人工审核，目标一小时内向家长推送通知。专家质疑前置自动分类筛选模块可靠性，同时要求公开审核对话数量、审核人员规模、平均审核时长等硬数据，对人力能否完成全部高危对话审核表示怀疑。
- 家长绑定模式效果有限：该监护功能需要家长主动绑定账户，但多数家长不会主动使用，且工具操作门槛高。专家建议产品出厂就默认启用最高等级保护，内置时长限制，而不是将设置防护的责任全部交给家长。
专家表示，虽然纸面规则方向正确，但缺少问责机制；过往OpenAI的内容限制也曾出现失效问题，不能单纯依靠企业自我约束。
文章导航
橡鹿机器人WRC首发三款全球新品，AI从“执行菜谱”走向“理解烹饪”
第二届世界人形机器人运动会：天工Omni拿下400米小型组决赛冠军
