AI Agent从生产到部署
一个由谷歌云构建的三部分项目,展示了如何从一个简单的MCP服务器一直到一个GPU加速的AI代理,所有这些都部署在 谷歌云运行.
每个部分都有自己的README,但它们是相互构建的。
______________________________________________________________________
建造什么
| 部件 | 文件夹 | 构建内容 | 关键技术 |
|---|---|---|---|
| 1 | 1-mcp-server/ | 一个安全的、生产就绪的MCP服务器,将动物园动物数据作为LLM的工具公开 | FastMCP、Cloud Run、Gemini CLI |
| 2 | 2-adk-agent/ | 使用MCP服务器+维基百科 | ADK、SequentialAgent、LangChain、Cloud Run的多代理动物园导游 |
| 3 | 3-gpu-agent/ | 具有弹性测试的GPU加速Gemma代理 | Ollama、Gemma 3 270M、NVIDIA L4、Cloud Run |
______________________________________________________________________
架构概述
______________________________________________________________________
先决条件
在开始之前,请确保您已经:
所有部件都可以磨合 Google Cloud Shell,它预装了上述所有功能。点击 这里 打开它。
______________________________________________________________________
入门指南
克隆仓库并导航到其中:
git clone https://github.com/YOUR_USERNAME/zoo-mcp-on-cloudrun.git
cd zoo-mcp-on-cloudrun然后从第1部分开始:
cd 1-mcp-server
cat README.md______________________________________________________________________
成本估算
| 零件 | 大致成本 |
|---|---|
| 第1部分 | \<1美元 |
| 第2部分 | \<1美元 |
| 第3部分 | GPU运行时约2-4美元/小时(NVIDIA L4) |
每个README部分都包含一个 清理 删除资源并避免持续收费。
______________________________________________________________________
项目概览
第1部分——在Cloud Run上部署安全的MCP服务器
A大楼 模型上下文协议 服务器使用 FastMCP 这暴露了动物园动物数据作为工具。将其部署到需要身份验证的Cloud Run,然后使用 Gemini CLI.
涉及的概念: MCP概念、FastMCP、云运行上的源代码部署、基于IAM的身份验证、服务帐户。
→ 转到第1部分
______________________________________________________________________
第2部分——构建和部署使用MCP服务器的ADK代理
使用谷歌构建多智能体动物园导游 代理开发工具包(ADK).代理使用第1部分中的MCP服务器作为其工具集,并使用维基百科API进行扩充以获得一般知识。将代理部署到Cloud Run。
涉及的概念: ADK代理, SequentialAgent, MCPToolset, LangchainTool、状态管理, adk deploy.
→ 转到第2部分
______________________________________________________________________
第3部分——将ADK代理部署到使用GPU的Cloud Run
部署a GPU加速的Gemma 3 通过Cloud Run上的Ollama建模,然后将其连接到ADK代理。使用以下工具进行弹性测试 蝗虫 观察这两个服务如何独立处理负载。
涉及的概念: GPU on Cloud Run、Ollama、LiteLlm、FastAPI+ADK、Locust负载测试、自动缩放行为。
→ 转到第3部分
______________________________________________________________________
项目结构
ai-agent-prod-deployment/
├── README.md # You are here
├── .gitignore
├── 1-mcp-server/
│ ├── README.md
│ ├── server.py # FastMCP zoo server with 2 tools
│ ├── Dockerfile
│ └── pyproject.toml
├── 2-adk-agent/
│ ├── README.md
│ ├── zoo_guide_agent/
│ │ ├── __init__.py
│ │ └── agent.py # Multi-agent workflow (greeter → researcher → formatter)
│ ├── requirements.txt
│ └── .env.example
└── 3-gpu-agent/
├── README.md
├── ollama-backend/
│ └── Dockerfile # Gemma 3 270M via Ollama
└── adk-agent/
├── production_agent/
│ ├── __init__.py
│ └── agent.py # Gemma-powered conversational agent
├── server.py # FastAPI server with ADK integration
├── Dockerfile
├── elasticity_test.py # Locust load test
├── pyproject.toml
└── .env.example______________________________________________________________________
