6月5日,腾讯混元宣布提出Stem稀疏注意力算法,已被机器学习顶会ICML-26收录。根据Stem算法×HPC算子的全栈加速方案,算法层面,Stem通过Token位置衰减(TPD)和输出感知度量(OAM)实现25%预算下的近无损精度;算子层面,HPC开源的Stem+BSA算子将稀疏收益转化为真实硬件加速,128K上下文下首字延迟降低3.7倍。
腾讯混元提出Stem稀疏注意力算法,首字延迟降低3.6倍
更新时间 2026-06-05来源 界面新闻正文 172字阅读约 1分钟
6月5日,腾讯混元宣布提出Stem稀疏注意力算法,已被机器学习顶会ICML-26收录。根据Stem算法×HPC算子的全栈加速方案,算法层面,Stem通过Token位置衰减(TPD)和输出感知度量(OAM)实现25%预算下的近无损精度;算子层面,HPC开源的Stem+BSA算子将稀疏收益转化为真实硬件加速,128K上下文下首字延迟降低3.7倍。
上一篇资讯
姚顺雨才是腾讯AI最明星的产品
作者 | 叶二 编辑 | 魏晓 腾讯AI,久违的人声鼎沸。 而热度,正与姚顺雨有关。 今日举行的腾讯云AI 产业应用大会上,面向个人提效、办公提效、企业提效三类需求,腾讯一口气针对20多个垂直场景,发布了提供差异化的智能体解决方案。 但全场的目光,却更多集中在姚顺雨上。 这位95...
下一篇资讯
AI重写了选品、内容、履约三个环节,没变的只有这一件事
AI行业观察 一个卖客服AI的人,在台上建议卖家先别管他的产品 AI提供的是通用能力,护城河来自对特定客户的理解和数据资产 " 先把选品和营销做好,我们这边排最后。 陈光是做AI客服的,QuickCEP服务了几百家跨境品牌。他在台上的建议是:先把选品和营销做好,我们这边排最后。 ...