每经AI快讯,5月21日,据智谱公众号消息,智谱联合驭驯网络与清华大学,在GLM-5.1线上生产集群中完成了新一代网络架构ZCube的规模化落地。在线上GLM-5.1 coding场景中,在保持GPU算力、软件栈与应用不变的前提下,ZCube节省了33%的交换机与光模块成本,同时将GPU平均推理吞吐提升了15%,并将TTFT P99降低了40.6%。

每经AI快讯,5月21日,据智谱公众号消息,智谱联合驭驯网络与清华大学,在GLM-5.1线上生产集群中完成了新一代网络架构ZCube的规模化落地。在线上GLM-5.1 coding场景中,在保持GPU算力、软件栈与应用不变的前提下,ZCube节省了33%的交换机与光模块成本,同时将GPU平均推理吞吐提升了15%,并将TTFT P99降低了40.6%。

上一篇资讯
三大运营商推出“词元套餐”,有什么用?
近日,中国电信推出试商用“词元(Token)套餐”,提供面向个人和开发者的多档位选择,最低月费9.9元起,中国移动和中国联通也在积极布局。 消息一出,立即引发广泛关注,有网友表示,还没搞懂词元是什么,运营商都有套餐了。“词元套餐”到底是什么?和消费用户有啥关系?怎么用?一起来看↓...
下一篇资讯
摩尔线程发布 AICUBE:AI Agent 开始进入家庭
如果 AI Agent 不再只存在于云端和聊天窗口,而是长期生活在家庭环境里,它应该以什么形态存在? 最近摩尔线程发布的家庭智能设备MTT AICUBE给了我一些答案。 在5月18号的摩尔线程产品发布会中,摩尔线程发布了一系列“云、边、端” 全场景产品和最新的技术进展,包括万卡级...