Token导航 LogoToken导航

AI 资讯 · Aike

阿里云AI原生应用架构白皮书:68%企业受困长会话状态管理

更新 2026-11-19Aike正文 1447字阅读约 5分钟5 张图片

这份是阿里云在 2026 年重写的一版,291 页,把 AI 应用从模型一直拆到网关、运行时和安全,一共十一块。

它最有分量的地方不在这些分法,而在开篇那几页调研:企业自己报出来的四个难点里,排第一的不是模型不好用,是长会话的状态存不住。

图片

它自身的框架是十一章。第一章讲应用形态怎么从 Chatbot 走到 Agent,第二章把关键要素列成十一项,后面八章各管一块。这篇不按章的编号走,按企业容易踩的顺序走:先看调研里那四个坑,再看架构分布怎么解释了这些坑,然后是十一项要素和四个成熟度等级,最后落在网关这件总被拖到最后才补的事上。

01 排第一的难点,是长会话状态

长会话指超过一轮问答、中间还要调工具的任务。68% 的企业说保不住这类任务的状态,上下文一丢,前面的算力就白花。往下的三个是算力调度 52%、异步通信 43%、数据处理链路 49%。

图片

同一页的另一组数据更直白:58% 的企业看不清 token 花在了哪里,44% 遇到调用卡顿却不知道为什么,42% 担心安全。这三个都指向同一件事,应用跑起来之后,人是瞎的。

02 六成还在单体单 Agent

架构这一栏的数字很集中。62% 的应用是单体单 Agent:一个进程接请求、调模型、返结果。分布式单 Agent 37%,单体多 Agent 36%,分布式多 Agent 只有 20%,用谷歌 A2A 协议的 10%。

图片

这两个数字放在一起就明白了:问题已经进到长会话、多进程这一档,架构还停在最简形态。62% 和 68% 不是巧合,是同一件事的两面。

03 前七项动手就碰,后四项出事后才找上来

白皮书第二章把要素按顺序排了十一项。顺着看下来,正好能切成两段,这也是我觉得最有用的一处分法。

序
要素
它管什么
2.1
模型
选哪个,按什么标准比
2.2
框架
Agent 怎么搭起来,循环怎么转
2.3
提示词
每一轮喂给模型的话怎么写
2.4
RAG
企业知识怎么检索进上下文
2.5
记忆
跨轮次、跨会话该记住什么
2.6
工具
模型能调什么,怎么调
2.7
网关
所有模型调用从哪儿进出
2.8
运行时
任务跑在哪,隔离与恢复怎么做
2.9
可观测
一次任务到底发生了什么
2.10
评估
好不好用,由什么说了算
2.11
安全
哪些动作允许,哪些必须拦

2.1 到 2.7 是写代码时能碰到的:选模型、搭框架、写提示词、接知识库、开工具。2.8 到 2.11 要等应用跑起来、出过事才成为议题。很多团队前十项说得清,后四项答不上来,不奇怪。

04 先判断自己在 M 几,再决定补哪块

白皮书把成熟度分成四级。验证级是在一个场景里试模型能不能提效,试用级开始有感知、决策、反馈的闭环,应用级要能驱动核心业务流程,成熟级要求高度自主与自适应。

图片

这套分级真正有用的是给出了补课顺序。第二级的团队先把状态和反馈闭环补齐,别急着上多 Agent;第三级的团队才轮到评估和安全。跳过一级直接追最新形态,通常半年后返工。

05 六成已经在用工具,最想要的是路由

63% 的企业已经在用工具,另有 25% 还没做 AI 应用,却先把自家 API 转成了 MCP。这说明工具这一层已经标准化到可以先接上。

图片

网关这边,66% 要模型路由和自动切换,排在内容安全 58%、访问鉴权 57%、Token 限流 48% 前面。这四项都发生在入口,硬塞进每个应用里做,等于把同一套逻辑抄十遍。

写在最后

把这份白皮书读薄,就一句话:AI 应用卡住的地方,九成在模型之外。68% 的企业保不住长会话状态,62% 还在单体单 Agent,这两件事互为因果,也解释了为什么很多团队换了更强的模型,体验却没有变好。先补状态和入口,再谈换模型,是这份资料给出的顺序。

阿里云AI原生应用架构白皮书.pdf

文章标签阿里云智能体

资讯来源:由AI资讯编辑整理自互联网公开内容,版权归原作者所有,未经许可,不得转载。