AI CloudRun应用程序(初学者)
这是一个实现人工智能驱动、云运行友好的应用程序脚手架的入门模板。它包含:
- FastAPI应用程序
- MCP工具箱(MongoDB/BigQuery/Spanner/云存储存根)
- ADK试剂(RAG+护栏)
- LLM客户端存根和Vertex AI(Gemini)集成示例
- Dockerfile和Cloud Run部署脚本
快速启动
- 创建
.env(或设置环境变量):
MONGO_URI=mongodb+srv://user:pass@cluster.mongodb.net/?retryWrites=true&w=majority
GCP_PROJECT=your-gcp-project
LLM_API_KEY=demo
VERTEX_ENDPOINT_ID=your-endpoint-id
GCP_LOCATION=us-central1- 在本地构建和运行:
uvicorn app.main:app --reload --port 8080- 测试:
curl -X POST "http://127.0.0.1:8080/query" -H "Content-Type: application/json" -d '{"user_id":"u1","question":"How to reset my password?"}'- 使用部署到Cloud Run
cloudrun_deploy.sh或GitHub操作。
下一步/生产说明
- 用Vertex AI/OpenAI SDK替换LLM客户端,并实现正确的身份验证
- 使用MongoDB Atlas矢量搜索或RAG专用矢量数据库
- 使用Secret Manager保护机密
- 使用云任务/云运行作业进行后台工作
- 添加监控和结构化日志记录
