Token导航 LogoToken导航

DeepSeek全面开源内部推理框架DeepInfer

更新时间 2026-10-20来源 北京商报正文 310字阅读约 1分钟

北京商报讯(记者 魏蔚)10月20日,DeepSeek宣布全面开源内部推理框架DeepInfer。大模型的能力边界由模型本身划定,但如何以合理成本提供超大规模的模型服务,还取决于一个长期未被公众了解的中间层:推理框架。训练使模型学有所成,推理则让模型为人所用。面对如今海量的用户调用,推理框架负责统筹调度庞大的算力集群,其效率直接决定了 AI 服务的算力成本与电力消耗。

DeepSeek表示,希望通过分享内部的部署经验,帮助开发者与企业组织优化大规模推理的吞吐与延迟,从而高效构建私有化及公有云部署,降低算力成本、减少能源消耗,让智能以更低的价格触达更广泛的人群,实现真正的大模型普惠。公司也将继续支持社区进行大规模部署优化。

文章标签DeepSeek模型发布开源
资讯来源:由AI资讯编辑整理自互联网公开内容,版权归原作者所有,未经许可,不得转载。

继续浏览更多资讯

返回资讯目录

相关资讯

更多