Token导航 LogoToken导航TokenDH.com

芯片和大模型之间的“翻译官”——海淀青年人才的新职业,正当时

更新时间 2026-09-17来源 搜狐科技正文 2500字阅读约 8分钟6 张图片
芯片和大模型之间的“翻译官”——海淀青年人才的新职业,正当时

(来源:海淀人才)

为加快推进北京青年人才创新创业生态示范区建设,海淀持续优化创新创业生态,让更多青年人才在产业关键环节扎根、生长。在北京海淀锦秋国际大厦,一群来自清华高性能计算所的年轻人,正在芯片与模型之间开辟一条新路——他们有一个新身份:算力优化师

9月的清晨,清程极智办公区里键盘声此起彼伏。

联合创始人、算力优化师师天麾紧盯大屏上波动的运行曲线,国产芯片运行大模型时正遭遇瓶颈:存储带宽拥堵、算力通道“堵车”,系统看似平稳,背后却存在大量算力资源空耗与性能浪费。

不远处,算力优化师刘东升正将积压的AI业务请求,从拥堵算力通道切换至最优运行路径。“这批活儿走老路,得多花四成冤枉钱。”一句话道出算力行业的现实痛点。

Part 01

在芯片与模型之间“做翻译”

师天麾打了个比方,芯片标称算力是实验室极限性能,实际使用往往只能发挥一小部分。算力优化师就像“调车人”,把只能发挥两三成功力的硬件调教至七八成,实现一块芯片顶多块使用。

刘东升的工作类似快递分拣主管,既要运营自建算力,也要对接多家第三方算力服务商。面对用户的AI请求,需要快速判断最优执行路径,在速度、成本、质量、稳定性相互矛盾的指标之间寻找平衡点,让每一分算力成本、每一毫秒时间都发挥最大价值

和普通程序员相比,算力优化师既要懂模型算法,也要吃透硬件底层。写算法的好比设计菜谱的大厨,未必熟悉灶具;而算力优化师既要懂菜谱,也要懂灶具,还懂得改造灶台提升效能。芯片计算单元排布、内存数据搬运、多卡通信逻辑,这些底层技术都必须了然于胸。

清程极智团队出自清华高性能计算所,曾拿下超算世界冠军。他们没有选择研发芯片或是训练大模型,而是深耕芯片与模型中间的系统软件。师天麾解释,产业需要分工:有人做芯片地基,有人做上层模型应用,他们负责搭建水电管道与调度系统,保障整套AI体系运转。2021年国内新一代超算训练大模型,正是这样分工协作:超算团队负责硬件芯片,清程极智负责系统调度,高校团队主攻模型算法,各展所长。

Part 02

一场“四两拨千斤”的攻坚战

不少国产芯片硬件底子不错,

但普遍存在“能跑,跑不顺”的问题。

刘东升分享了团队攻克的

一项技术难题——

当下DeepSeek等主流大模型大量使用FP8数据格式,存储占用小、运算速度快,但不少国产芯片以及部分老款显卡硬件并不支持该格式。

传统解决方案陷入两难:要么转换格式,会让文件体积翻倍,内存、存储成本随之暴涨;要么降低精度,直接损害模型效果。清程极智另辟蹊径,自研一套“翻译软件”:数据依旧以FP8精简格式存储,计算时在芯片内部临时转换为兼容格式运算。这套方案兼顾存储空间与模型效果,存储占用下降二分之一到四分之三。原本运行DeepSeek‑V3满血版需要四台八卡服务器,成本近600万元,如今仅需一台国产910B八卡服务器,150万元即可完成。

团队把这套优化能力封装成三层工具箱——

底层“八卦炉”打通训练、微调、推理、部署全流程;

中层“赤兔”专门为国产芯片提速降耗;

上层“AI Ping”是算力比价导航平台,实时监测各家算力服务商性能,自动为用户匹配最优调度路线。

接入AI Ping的企业,算力平均成本降低37%,处理速度提升近一倍,业务等待时间减少两成

“先守住质量和稳定性底线,再通过算法压缩成本、提升速度。”刘东升表示。

Part 03

AI行业从“拼跑分”向“拼省钱”转变

师天麾谈到,过去行业讨论大模型,热衷比拼参数规模与榜单排名;如今产业落地阶段,企业最关心的是模型是否用得起——再好的模型,如果算力成本过高,也只能停留在实验室。

刘东升深有体会,前几年懂模型训练的人才十分抢手,现在能够实现模型“跑得快、花得少”的算力优化人才愈发稀缺。AI算力规模持续扩张,哪怕微小的优化,放大到庞大业务体量上,就能节约巨额成本。

团队还实现一项突破: 在纯CPU超算“灵晟”上跑通AI推理。行业长期默认AI推理必须依靠GPU,CPU被视作性能有限的“老爷车”。清程极智通过系统优化证明,特定场景下CPU也可以实现不错的推理效果,拓宽国产算力的实现路径,不必一味依赖昂贵GPU。

师天麾将各类国产芯片比作火电、水电、风电,技术路线各不相同,缺少一套成熟的“电网调度系统”统一调配算力。海外开源系统可以点亮国产芯片,但想要实现高效稳定运行,需要自主研发的系统软件。

Part 04

这个新职业大有未来

想要成为算力优化师,需要兼备硬件架构、底层系统、网络通信、大模型算法四类能力,缺一不可。既不能只懂算法,也不能只懂系统,需要跨领域复合能力。

师天麾表示,学历并非硬性门槛。团队虽有奥赛金牌、超算冠军成员,但这是能力结果,不是入职门槛。核心是交叉学科能力与工程实战经验,需要在机房打磨积累,无法依靠培训班速成。

高性能计算过去属于小众领域,人才储备薄弱,AI爆发之后,算力优化人才缺口快速显现。高校与企业正在加紧人才培养,但短期难以填补缺口。未来两三年,熟悉国产芯片适配、集群调度、成本优化的算力优化人才会持续紧缺。

刘东升测算,随着AI渗透各行各业,各个行业都需要算力优化人员做成本测算。即便未来人才供给增加,市场需求仍会持续上涨。

师天麾展望,算力优化师未来将朝着三个方向演进:第一,从单台机器优化升级为大规模异构集群调度;第二,从适配芯片走向反向定义芯片,用软件需求倒逼硬件迭代;第三,从售卖算力转向按业务效果付费,深度参与服务定价与质量管控。

“AI基础设施如果搭建不好,就好比高速公路上跑拖拉机,不仅浪费资源,还容易让人误解国产芯片性能不足。”刘东升说。团队的目标是打造成熟的国产AI算力操作系统,让更多企业可以低成本、高质量地使用人工智能。

阳光洒进办公室,师天麾与刘东升再次投入工作,身后服务器指示灯明暗闪烁,如同一片数字星空。这群游走在芯片与模型之间的“翻译者”,正努力让国产算力的脉搏跳得更加稳健有力。

创新创业生态从不是只有“造芯片”和“训模型”两头——中间那条系统软件与调度优化的“水电管道”,同样得有人来铺、有人来守。海淀正在做的,是让更多青年人才在产业关键环节找到自己的位置,让他们的创新活力嵌入国产算力的每一环。

来源:北京海淀

文章标签大模型芯片
资讯来源:由AI资讯编辑整理自互联网公开内容,版权归原作者所有,未经许可,不得转载。

继续浏览更多资讯

返回资讯目录

相关资讯

更多