2026年7月，微信AI公布Hidden Decoding，尝试让已有大模型通过增加内部计算继续提升能力。作者名单里，几位参与2022年WeLM的老成员，与近年加入的研究者并肩出现。
周霄、余厚金、陈昱文和杨宇的名字横跨两篇论文，新的经历也在汇入。刘瑷玮从清华来到微信，参与模型架构与预训练；王锡淮带着多智能体强化学习的积累转向后训练；曾少勋则从存储系统研究走进大模型训练与推理。他们与长期研究推荐、视觉和音频的同事，在一项项具体工作中形成交集。
从第一代WeLM走来的五个名字
2022年9月21日公开的WeLM，为微信这条基础模型研究线留下了一个清晰的起点。这款100亿参数中文预训练模型已经研究零样本、少样本与跨语言任务能力，时间早于ChatGPT发布。周霄、余厚金、陈昱文和杨宇等作者持续参与后续项目，也让这条跨越四年的研究线有了可以追踪的人员脉络。
四年后的Hidden Decoding，把问题推进到已有大模型如何持续获得能力增长。它在继续预训练阶段，将每个token展开成多个计算流，增加内部计算，同时保持Transformer主干的层数和宽度不变。额外计算沿序列长度维度展开，能够兼容大模型训练使用的流水线并行。
增加计算流也会抬高注意力开销。研究团队采用流分解注意力，让多数层在各自流内计算，仅在少数层交换信息，并在WeLM-HD4-80B和WeLM-HD4-617B上验证了相对对应基线的能力提升。这项工作为已有大模型提供了一条通过增加内部计算继续提升能力的路径，并把这条路径验证到了千亿参数以上的MoE规模。
Hidden Decoding方法（图片来自Tencent - Hidden Decoding）
从2022年的中文预训练，到2026年的内部计算扩展，WeLM研究的问题已经深入模型的计算组织方式。早期成员的持续参与，也使这一变化呈现出长期积累的脉络。
模型越做越大，分工越做越细
架构与预训练
张思钧参与过字节Seed的Efficient Pretraining Length Scaling，该论文提出PHD-Transformer，探索预训练阶段的长度扩展与KV缓存管理。他后来加入微信AI，也出现在Hidden Decoding作者名单中，两项工作都涉及隐藏计算与效率问题。
刘瑷玮于2025年从清华大学博士毕业，同年7月加入微信AI的WeLM团队。他是WeLM-80B与WeLM-617B的核心贡献者，负责模型架构设计，并开展大规模预训练基础设施研究。
刘瑷玮（图片来自本人主页）
刘瑷玮同时是WeDLM的第一作者。这项工作中稿ICML 2026，针对的是扩散语言模型的一个实际瓶颈：一次恢复多个token能够提高生成并行度，但常见的双向注意力难以复用标准前缀KV缓存，理论上的并行优势很容易被重复计算抵消。
WeDLM保留标准因果注意力，通过拓扑重排把已知token移到物理前缀，同时保留它们的逻辑位置，使待恢复位置能够利用已有信息。配合流式并行解码，已确认的token可以持续并入前缀，减少分块生成中的等待。
论文在匹配部署条件下，与vLLM运行的自回归基线比较，在困难推理基准上有接近3倍的加速，在低熵生成场景中最高达到10倍。WeDLM把并行生成接入成熟的缓存与推理机制，推进了扩散语言模型的实际部署。它与Hidden Decoding分别从生成效率和内部计算扩展切入，让架构设计与系统优化共同进入WeLM的研究主线。
WeDLM项目方公布的速度与能力对比（图片来自Tencent - WeDLM）
后训练与软件工程任务
王锡淮是微信AI WeLM团队研究员，主要从事大语言模型后训练。他于2026年从上海交通大学博士毕业，导师为张伟楠和温颖，早期研究多智能体强化学习，代表工作包括Order Matters与ZSC-Eval。
王锡淮（图片来自王锡淮个人主页）
王锡淮是ICLR 2023论文Order Matters的第一作者，该工作提出逐个智能体更新策略的A2PO算法，研究策略更新顺序与样本效率。随后，他在NeurIPS 2024发表第一作者工作ZSC-Eval，评估智能体与陌生伙伴之间的零样本协作能力，并作为共同第一作者参与ACL 2025的DPT-Agent，将研究推进到基于大语言模型的实时人机协作。从多智能体策略优化、协作评测到语言智能体，决策与协作构成了他持续研究的主题。目前，他在WeLM团队从事大语言模型后训练。
陆笛参与WeLM系列模型后训练，研究重点是软件工程任务。他也参与了Terminal-Bench，该基准考察智能体在命令行环境中完成复杂实际任务的能力。
陆笛（图片来自本人主页）
武楚涵本科就读于清华大学电子工程系，2019年进入该系攻读博士，导师为黄永峰。他于2018年在微软亚洲研究院社会计算组实习，2019年获微软学者奖学金，早期研究聚焦用户建模与推荐系统。他是EMNLP-IJCNLP 2019论文NRMS的第一作者，该方法利用多头自注意力学习新闻内容以及用户点击历史中的关联，形成新闻和用户的表示，并被收入Recommenders工具库，成为新闻推荐领域具有持续使用积累的代表性方法。这项加入微信前的成果，具体呈现了他在内容理解与用户建模上的研究基础。目前，他在微信研究基础大模型，并参与WeDLM和Hidden Decoding。
武楚涵（右）在2019年微软学者奖学金颁奖仪式上（图片来自清华大学电子工程系报道）
训练、推理与强化学习系统
杨宇是微信NLP与LLM基础设施负责人，此前曾任百度飞桨（PaddlePaddle）核心开发者。飞桨是百度于2016年开源的深度学习框架，覆盖模型训练、分布式计算与推理部署等环节。这段经历让他在底层框架研发与大规模训练系统方面积累了经验，并延伸到微信的大模型基础设施建设。他也参与了Hidden Decoding，系统研发人员直接参与了模型计算机制的探索。
杨宇（图片来自本人 GitHub 主页）
曾少勋在腾讯WeLM团队研究大模型训练、推理与强化学习系统，2026年从清华大学博士毕业，导师为陆游游和舒继武。他是GPU Checkpoint/Restore Made Fast and Lightweight的第一作者，该工作获得FAST 2026 Distinguished Artifact Award。他还参与了WeDLM及智能体强化学习环境WeEnv。结合这些工作可以看到，系统研发已经进入模型生成机制与智能体训练环境等环节，工程效率成为模型研究中的一项具体议题。
曾少勋（图片来自本人主页）
多模态的考题，藏在文档、按钮和声音里
柳源是微信AI研究员，曾作为核心开发者和维护者参与MMSelfSup、MMPretrain、MMEngine、MMSegmentation及OpenCompass等开源项目。他参与了POINTS、POINTS1.5、POINTS-Reader和POINTS-GUI-G，研究内容涉及视觉语言模型、文档转换和界面定位。
柳源（图片来自柳源个人主页）
POINTS-GUI-G的一作是Zhongyin Zhao，柳源、王海诚、Le Tian、周霄和杨宇等共同参与，其核心任务是根据指令定位屏幕上的文字、图标等元素，为后续点击与输入提供位置依据。POINTS由通用视觉语言理解延伸到界面定位，研究目标开始直接对应软件交互所需的基础能力。
张林昊与贾巍共同参与了Unified Audio Schema和UniAudio-Token。前者将音频监督信息组织为转写、副语言信息与非语言事件，后者探索让语义语音tokenizer保留更广泛的音频感知能力。两人也同时出现在WeDLM和Hidden Decoding的作者名单中，显示出多模态与语言模型项目之间的人员交叉。
项目方展示的音频表征与识别能力对比（图片来自Tencent - Universal Audio Tokenizer）
POINTS与音频项目共同呈现出多模态研究的任务细化。文档转换要求保留页面结构，GUI定位强调空间精度，音频理解需要同时处理语义与声学信息。这些工作把通用模型能力推进到各类输入的具体难点，也让数据、训练方法与评测标准成为竞争的重要部分。
WeAgent把图像创作串成工作流
微信的另一组公开工作围绕多模态智能体展开。WeAgent-MMSearch研究文本与视觉信息交互的搜索流程，WeAgent-MMGenEdit则把检索、核验及证据整合引入图像生成与编辑。
孟凡东是微信首席研究员及团队负责人，研究方向包括机器翻译、自然语言处理和大语言模型。他是WeAgent-MMGenEdit的通讯作者，也参与了文字导向图像编辑工作WeEdit。
孟凡东（图片来自本人主页）
张辉于2026年从复旦大学博士毕业，研究方向包括智能体强化学习、生成模型与多模态理解。他是WeAgent-MMGenEdit和WeEdit的第一作者，也参与WeAgent-MMSearch。这组项目将研究对象扩展到包含检索、核验与工具调用的任务流程，反映出微信在多模态智能体方向上的持续投入。
张辉（图片来自本人主页）
研究的下一站，走进微信的日常
WeChat Vision公开的项目覆盖了多个视觉任务：WeVisOne-VL将检测、定位、OCR、分割与抠图纳入同一模型，WeVisDoc研究端到端文档解析，WeVisCut探索从解说内容到长视频制作的工具调用流程。
孙冲是WeVisOne-VL与WeVisDoc的项目负责人，李琛是这两项工作的通讯作者。梅柯是WeMM-Embedding的项目负责人，饶峰云是该工作的通讯作者。感知与文档任务共享部分关键参与者，多模态表征则由另一组研究者推进。
饶峰云于2006年和2011年分别获得清华大学工程物理学士、天体物理博士学位。毕业后，他在清华大学与同方威视联合研究所从事安检图像识别算法研究，2013年加入国双科技负责AI团队，2019年加入腾讯看点负责视频理解算法研发。其团队的多模态算法曾落地QQ浏览器和QQ看点多个业务场景。从安检图像识别、信息流视频理解到WeMM-Embedding，他的技术经历串起了视觉算法与搜索推荐应用。
饶峰云（图片来自AICon 2021讲者介绍）
梅柯（图片来自本人 GitHub 主页）
WeMM-Embedding把这些研究推进到微信的搜索和推荐环节。它将文本、图片、视频、视觉文档与混合输入映射到统一表征空间，使不同模态的内容能够进行相关性比较。对于同时承载图文、短视频和商品信息的微信，这类表征能力直接服务于内容的检索与分发。
项目方披露，该系列模型已应用于视频号、公众号、朋友圈及电商服务，并在14项线上A/B测试中获得收益。WeMM-Embedding是这批公开工作中，连接模型研究与微信业务结果的一项关键成果。它让视觉研究的价值落到了用户如何找到内容、平台如何匹配内容的具体环节。
李琛是腾讯高级研究员、微信应用视觉团队负责人。他是WeVisOne-VL和WeVisDoc的通讯作者，也是WeLM-Image的共同作者，参与的研究涉及视觉感知、文档解析及图像生成。
李琛（图片来自论文作者简介）
2026年11月5日的WeLM-Image整合文生图、指令编辑与多参考图合成，设计目标聚焦在微信大规模用户应用中进行单GPU部署。
把WeLM-Image与WeVisOne-VL、WeVisDoc和WeMM-Embedding放在一起看，WeChat Vision的研究已覆盖内容感知、文档处理、检索表征和视觉生成，形成了多条围绕视觉信息处理展开的技术方向。
这批人的履历，记录着微信AI研究重心的变化。飞桨开发者开始搭建大模型基础设施，新闻推荐研究者参与语言模型，天体物理博士走向多模态表征。旧经验随着新的任务继续生长。
从WeLM到WeChat Vision，老成员延续研究，新面孔带来各自的专长。论文署名把他们连在一起，训练效率、生成速度和微信业务中的实际效果，则让这些合作有了具体的落点。
参考来源：
