Token导航 LogoToken导航

OpenAI推进下一代旗舰模型研发 循环推理与安全对齐成关键

更新时间 2026-10-15来源 AIBase正文 536字阅读约 2分钟1 张图片

OpenAI正加紧推进下一代旗舰模型研发,但受安全对齐和测试基础设施建设影响,发布时间仍存在不确定性。据《The Information》10月披露的消息,OpenAI员工预计公司将在2026年底前发布一至两款新模型,但尚不确定正在开发的旗舰升级模型是否会在其中。

openai

据悉,新旗舰模型采用与Astra相同的循环Transformer技术,即“循环深度”(Recurrent Depth)。该技术让模型在生成下一个词元前,多次将当前词元通过相同的Transformer层处理,可提升数学推理和编程能力,并使较小模型以更低成本实现更强性能。

不过,循环推理也将部分计算过程转移至难以被人工审查的内部数值表示,削弱了通过可读思维链监控模型行为的能力。据报道,OpenAI已限制Astra的循环次数,以维持推理过程的可读性,并将约10%的总计算能力转向算法对齐与安全研究,相关算力规模据称达到数百兆瓦。

微软此前发布的一篇GPT-6.1Sol技术文章意外披露了循环推理细节,随后删除相关内容。OpenAI还需完善安全测试,并按照相关安排,在模型交付外部合作伙伴前及正式公开发布前接受美国政府的安全评估。此次研发进展表明,推理性能提升与安全可监控性之间的平衡,正成为下一代大模型发布的重要挑战。

文章标签OpenAI安全
资讯来源:由AI资讯编辑整理自互联网公开内容,版权归原作者所有,未经许可,不得转载。

继续浏览更多资讯

返回资讯目录

相关资讯

更多