10月9日晚,智源大厦7层,InnoVibe Starry Night的AI Infra专场闭门技术沙龙汇聚近50位同行,其中多为AI Infra工程师、系统架构师和技术负责人。整晚讨论从实时世界模型推理优化切入,渐次展开为来自一线的工程判断:传统HPC向AI时代的演进、DeepSeek模型推理支持、具身智能端云协同架构,直至Agent对Infra领域的影响与从业者的能力转型——AI Infra正在越来越直接地决定模型迭代效率与竞争力。
任路遥:世界模型要实时交互,推理优化是关键
逆矩阵Infra负责人任路遥首先分享了实时可交互世界模型的推理优化探索。自回归去噪现在是世界模型的主流做法,要求交互式世界模型不光要“聪明”,还要延迟低、吞吐高。任路遥分析了自回归去噪推理和LLM推理的负载差异,分享了逆矩阵在推理引擎上的系统实践,如何在质量、延迟和吞吐之间找到平衡。
Liang:HPC 的思路,放到AI时代依然有效
AI Infra研究员Liang分享了HPC的演进过程:现在矩阵乘还是性能核心,稀疏和低秩还是常用加速手段,communication avoiding、混合精度、数值可复现性,在MPI集群和加速器互联上相似。他提到从传统HPC往AI迁移需要建立性能模型评估理论下界,做有效优化。
安达楷:模型更高效了,推理引擎也得跟上
长上下文和Agent工作负载越来越多,模型开始从计算、存储、数据访问几个方向降推理成本。vLLM项目核心贡献者安达楷,分享vLLM如何发挥DeepSeek V4.1 Flash的架构优势,以及模型和推理系统之后怎么协同优化,他提到架构创新加上引擎优化,KV Cache开销和推理时延都能明显降下来。
李兆石:具身智能的终局,未必是“云端大脑”或“端侧大脑”
沐曦北京AI研究院院长李兆石提到SemiAnalysis最近一篇研究:机器人模型越来越大,越来越多高阶智能会走向数据中心。物理AI的终局未必是“云端大脑”或者“端侧大脑”,更可能是一个动态变化的端云协同系统:云端负责能力上限和持续学习,端侧负责智能下限和实时性,软硬件协同决定两者之间的边界。
10点活动结束并未让交流降温。秋夜微凉,嘉宾与学者们的讨论仍在升温,议题从会议报告延展至更开放的追问——触及Agent对Infra的重塑,也关乎个人成长与长期选择。多位青年学者表示,InnoVibe Starry Night 汇聚最前沿的青年学者,让不同研究背景的同行在小范围深度交流中充分对话,更进一步,这样的交流也在自由探索中孕育新方向,加速复合人才在协同攻关中加速创新研究。
领域边界的拓展更有赖于青年力量的持续连接与共同投入,InnoVibe Starry Night系列活动仍将延续,期待更多同行保持联系、加入其中,在持续交流与协作中共同推动领域向前。阅读原文,申请加入青源会
青源会 由AI领域代表性青年学者自发成立的学术组织,秉持支持年轻学者开心探索智能本质的理念,为全球从事智能科学及相关领域的学者和技术专家,打造专注创新的交流与协作平台。围绕“孵化新方向、培养复合人才、加速创新研究”,青源会始终关注青年学者的成长,现已拥有超过260名正式会员和2000余名预备会员。







