6月5日,腾讯混元宣布提出Stem稀疏注意力算法,已被机器学习顶会ICML-26收录。根据Stem算法×HPC算子的全栈加速方案,算法层面,Stem通过Token位置衰减(TPD)和输出感知度量(OAM)实现25%预算下的近无损精度;算子层面,HPC开源的Stem+BSA算子将稀疏收益转化为真实硬件加速,128K上下文下首字延迟降低3.7倍。
首字延迟降低3.6倍,腾讯混元提出Stem稀疏注意力算法
更新时间 2026-06-05来源 财闻正文 172字阅读约 1分钟
6月5日,腾讯混元宣布提出Stem稀疏注意力算法,已被机器学习顶会ICML-26收录。根据Stem算法×HPC算子的全栈加速方案,算法层面,Stem通过Token位置衰减(TPD)和输出感知度量(OAM)实现25%预算下的近无损精度;算子层面,HPC开源的Stem+BSA算子将稀疏收益转化为真实硬件加速,128K上下文下首字延迟降低3.7倍。
上一篇资讯
小米“米家空调强劲风 Pro 立式超 3 匹”柜机开售:1820m³/h 风量、5.31 APF,6499 元
感谢IT之家网友 Autumn_Dream 的线索投递! IT之家 6 月 5 日消息,小米“米家空调强劲风 Pro 立式超 3 匹”柜机今晚正式开售, 原价 6499 元,国补到手价 5524.2 元 。 京东小米 米家空调 强劲风 Pro 超 3 匹 一级能效 空调柜机 64...
下一篇资讯
连续两年站上ICRA,RoboScience机器科学要把具身智能带到VLOA时代
“开辟具身智能VLOA新路线。 机器人行业正在出现一次路线切换。 过去两年,VLA 几乎成为具身智能领域最热门的技术路线。它将视觉观测、语言指令和机器人动作连接起来,让机器人能够根据当前环境和任务要求生成动作。 但真实世界不是一张静态画面。 当机器人真正走进工厂、商超、仓库和家庭...