Token导航 LogoToken导航

AI 资讯 · 财闻

首字延迟降低3.6倍,腾讯混元提出Stem稀疏注意力算法

更新 2026-06-05财闻正文 172字阅读约 1分钟

6月5日,腾讯混元宣布提出Stem稀疏注意力算法,已被机器学习顶会ICML-26收录。根据Stem算法×HPC算子的全栈加速方案,算法层面,Stem通过Token位置衰减(TPD)和输出感知度量(OAM)实现25%预算下的近无损精度;算子层面,HPC开源的Stem+BSA算子将稀疏收益转化为真实硬件加速,128K上下文下首字延迟降低3.7倍。

文章标签混元腾讯

资讯来源:由AI资讯编辑整理自互联网公开内容,版权归原作者所有,未经许可,不得转载。