品玩7月16日讯，OpenAI 官方今天宣布，推出了内部专用的自动化红队模型GPT-Red。
该模型通过自博弈强化学习，持续设计新的攻击方式诱导模型执行非预期操作。OpenAI投入了前所未有的算力规模对其进行训练，并将生成的攻击数据直接用于生产模型的安全训练。
目前，GPT-Red已应用于GPT-5.6 Sol的训练。测试显示，GPT-5.6 Sol在最困难的直接提示注入基准测试中，失败次数较四个月前最强生产模型减少了约六分之五。这一成果标志着AI安全迈入了“用当前模型加固未来模型”的自动化新阶段。
上一篇资讯
纽约州试点引入“机器人老师”：课程内容可控、保护隐私、不“说谎”
感谢IT之家网友 不一样的体验 的线索投递！ IT之家 7 月 16 日消息，据外媒 Gadget Review 今天（16 日）报道，今年秋季，由 Realbotix 提供的人形机器人 Sally 将来到美国纽约州西部公立的萨拉曼卡市中央学区担任“助教”。Sally 拥有硅胶皮...
下一篇资讯
OpenAI发布首款硬件Codex Micro，深耕AI编程生态
品玩7月16日讯，OpenAI正式推出其首款硬件产品——Codex Micro。这款专为Codex重度用户打造的迷你键盘由Work Louder设计，售价230美元。值得注意的是，该产品并非外界盛传的与Jony Ive合作的消费级硬件。 Codex Micro配备了六个可发光的智...
