11月5日，阿里云宣布，阿里云灵骏真武M890超节点已完成月之暗面Kimi K3.1 Pro模型权重的Day0适配，并在vLLM与SGLang两大主流开源推理框架上完成全链路验证。Kimi K3.1 Pro总参数为2.8万亿，支持100万Token上下文。同时，阿里云中卫超节点地域开启邀测，进一步加速大规模算力供给。
阿里云表示，Kimi K3.1 Pro 是月之暗面最新推出的开源大模型，此次发布意味着可在用户本地或云端快速部署。据介绍，其参数规模达2.8万亿级，是当前全球参数规模最大的开源模型之一，支持 100 万 Token 上下文窗口。它延续超大规模稀疏混合专家（MoE）架构，采用 KDA 线性注意力与 DSA 稀疏注意力相结合的混合注意力设计，支持多 Token 预测（MTP），对显存容量与高速 Scale-Up 互联提出了极高要求。目前，Kimi K3.1 Pro也在千问AI平台部署上线，对外提供API服务。
针对K3.1 Pro这样的万亿参数大模型“高吞吐、低延迟、高并发”的需求特点，阿里云、平头哥与Kimi团队依托T-Head SAIL 软件栈完成深度联合适配，并针对 FlashMLA算子、DeepGEMM MOE算子、MegaMoE以及MoonEP的适配与调优等方面做了重点优化，帮助用户能够基于裸金属或者 REIN 智能引擎服务，快速完成推理服务在超节点资源上的部署。
