AI Agent Hub(可译为“AI代理中心”或“人工智能代理平台”)
基于Docker的、支持MCP的、由RAG驱动的助手,配备流式API、实验追踪功能以及注重生产环境的React用户界面。
______________________________________________________________________
🚀 概述
AI Agent Hub是一个 可投入生产的AI助手平台 这展示了现代代理系统的管道技术、检索增强生成(RAG)、可观测性以及云原生部署。
关键亮点:
- MCP(模型上下文协议): 自定义工具服务器 + 可选客户端适配器。
- RAG系统: 通过源接地得出的答案 Qdrant(注:Qdrant是一个向量数据库,但在此语境下,直接翻译其名称可能无具体含义,因此保持原样) 向量数据库(Vector Database)。
- 本地大型语言模型(LLMs): 跑 Llama-3.1-8B (介词)和,与,带着 Ollama(注:Ollama是一个用于训练和运行大型语言模型的工具或框架,直接翻译为“奥拉玛”可能不够准确,但在此处为保持格式一致,仅提供音译,实际使用时应根据上下文确定具体含义) 免费,无需API费用。
- 生产级堆栈: Docker Compose,FastAPI(SSE流式传输),React + Vite UI,MLflow跟踪,CI/CD部署到Google Cloud Run。
这个项目的设计旨在展示 多服务编排——这正是现代人工智能工程领域招聘经理所看重的。
______________________________________________________________________
🛠️ 技术栈
- LLM Ollama(注:Ollama是一个开源的机器学习框架,用于训练和部署机器学习模型,此处直接保留原名,不进行意译) +
llama3.1:8b - 代理协议: MCP(Multi-Channel Polling,多通道轮询) (服务器 + 可选的客户端适配层)
- RAG框架: LangChain 或者自定义轻量级代码
- 向量数据库: Qdrant(注:Qdrant是一个向量数据库系统,直接翻译可能无具体含义,此处保留原英文形式以指代该特定系统) (Docker 或云免费套餐)
- API FastAPI + 用于流式传输令牌的SSE(服务器发送事件)
- 前端: React + Vite(TypeScript)
- 可观测性: MLflow 用于实验追踪与评估
- 容器: Docker + Docker Compose
- 云部署: Google Cloud Run(免费版)+ 可选Qdrant Cloud + Cloudflare Workers AI
- CI/CD:持续集成/持续交付 GitHub Actions(持续集成 + 部署流水线)
______________________________________________________________________
