这份是阿里云在 2026 年重写的一版,291 页,把 AI 应用从模型一直拆到网关、运行时和安全,一共十一块。
它最有分量的地方不在这些分法,而在开篇那几页调研:企业自己报出来的四个难点里,排第一的不是模型不好用,是长会话的状态存不住。

它自身的框架是十一章。第一章讲应用形态怎么从 Chatbot 走到 Agent,第二章把关键要素列成十一项,后面八章各管一块。这篇不按章的编号走,按企业容易踩的顺序走:先看调研里那四个坑,再看架构分布怎么解释了这些坑,然后是十一项要素和四个成熟度等级,最后落在网关这件总被拖到最后才补的事上。
01 排第一的难点,是长会话状态
长会话指超过一轮问答、中间还要调工具的任务。68% 的企业说保不住这类任务的状态,上下文一丢,前面的算力就白花。往下的三个是算力调度 52%、异步通信 43%、数据处理链路 49%。

同一页的另一组数据更直白:58% 的企业看不清 token 花在了哪里,44% 遇到调用卡顿却不知道为什么,42% 担心安全。这三个都指向同一件事,应用跑起来之后,人是瞎的。
02 六成还在单体单 Agent
架构这一栏的数字很集中。62% 的应用是单体单 Agent:一个进程接请求、调模型、返结果。分布式单 Agent 37%,单体多 Agent 36%,分布式多 Agent 只有 20%,用谷歌 A2A 协议的 10%。

这两个数字放在一起就明白了:问题已经进到长会话、多进程这一档,架构还停在最简形态。62% 和 68% 不是巧合,是同一件事的两面。
03 前七项动手就碰,后四项出事后才找上来
白皮书第二章把要素按顺序排了十一项。顺着看下来,正好能切成两段,这也是我觉得最有用的一处分法。
序 | 要素 | 它管什么 |
|---|---|---|
2.1 | 模型 | 选哪个,按什么标准比 |
2.2 | 框架 | Agent 怎么搭起来,循环怎么转 |
2.3 | 提示词 | 每一轮喂给模型的话怎么写 |
2.4 | RAG | 企业知识怎么检索进上下文 |
2.5 | 记忆 | 跨轮次、跨会话该记住什么 |
2.6 | 工具 | 模型能调什么,怎么调 |
2.7 | 网关 | 所有模型调用从哪儿进出 |
2.8 | 运行时 | 任务跑在哪,隔离与恢复怎么做 |
2.9 | 可观测 | 一次任务到底发生了什么 |
2.10 | 评估 | 好不好用,由什么说了算 |
2.11 | 安全 | 哪些动作允许,哪些必须拦 |
2.1 到 2.7 是写代码时能碰到的:选模型、搭框架、写提示词、接知识库、开工具。2.8 到 2.11 要等应用跑起来、出过事才成为议题。很多团队前十项说得清,后四项答不上来,不奇怪。
04 先判断自己在 M 几,再决定补哪块
白皮书把成熟度分成四级。验证级是在一个场景里试模型能不能提效,试用级开始有感知、决策、反馈的闭环,应用级要能驱动核心业务流程,成熟级要求高度自主与自适应。

这套分级真正有用的是给出了补课顺序。第二级的团队先把状态和反馈闭环补齐,别急着上多 Agent;第三级的团队才轮到评估和安全。跳过一级直接追最新形态,通常半年后返工。
05 六成已经在用工具,最想要的是路由
63% 的企业已经在用工具,另有 25% 还没做 AI 应用,却先把自家 API 转成了 MCP。这说明工具这一层已经标准化到可以先接上。

网关这边,66% 要模型路由和自动切换,排在内容安全 58%、访问鉴权 57%、Token 限流 48% 前面。这四项都发生在入口,硬塞进每个应用里做,等于把同一套逻辑抄十遍。
写在最后
把这份白皮书读薄,就一句话:AI 应用卡住的地方,九成在模型之外。68% 的企业保不住长会话状态,62% 还在单体单 Agent,这两件事互为因果,也解释了为什么很多团队换了更强的模型,体验却没有变好。先补状态和入口,再谈换模型,是这份资料给出的顺序。
阿里云AI原生应用架构白皮书.pdf







