Token导航 LogoToken导航

AI 资讯 · 智通财经

腾讯混元推出Hy4 flash 支持多模态与1M上下文

更新 2026-11-16智通财经正文 570字阅读约 2分钟1 张图片

智通财经APP获悉,11月16日,腾讯混元正式推出 Hy4 flash,这是迄今为止最高性价比的 Hy 模型,总参数量为 224B(其中 64B Engram 参数),激活参数 12B,支持多模态和 1M 上下文长度,API 价格相比 Hy4 大幅降低。


通过一系列工作在极致优化成本的同时兼顾智能水平和实用性:

在预训练阶段,Hy4 flash 加入了混合注意力、LatentMoE、Engram 等架构特性,KV cache 大小仅为 Hy3 的 1/24、Hy4 的 1/6,且通过大量 scaling ladder 实验确保效果符合预期;

在后训练阶段,通过自蒸馏 Hy4 获得了较强的综合智能水平,再通过强化学习使端到端任务输出长度降低 50%;

在评估阶段,构建基于 WorkBuddy 典型任务的内部评测集 WorkIndex,并结合人评,聚焦日常工作的产物效果、单轮输出长度、端到端用时,而非远离日常工作的公开榜单分数;

在推理阶段,结合 megakernel、4bit 量化、DFly 等手段极致优化,使 Hy4 flash 解码速度超过 150 tps,且可以大规模低成本部署运营。

最终,Hy4 flash 在综合效果上略优于 Hy4 preview;在 WorkIndex 上单任务成本仅为 Hy4 preview 的 1/13、Hy4 的 1/20、DeepSeek-V4.1-Flash-1017( max 档位,忙时价格)的 1/8。

资讯来源:由AI资讯编辑整理自互联网公开内容,版权归原作者所有,未经许可,不得转载。