基于MCP框架的智能客户支持助手
场景
构建一个客户支持系统，其中大型语言模型（LLM）与公司数据（工单、常见问题解答、用户资料）进行交互，并执行自动化操作，如关闭工单、发送回复或更新客户信息。
______________________________________________________________________
组件
资源（数据端点）
- 客户资料（姓名、订阅计划、支持历史）
- 工单元数据（开放/关闭状态、优先级、分配给的代理）
- 常见问题解答数据库（问题-答案对）
工具（操作）
- 为支持代理总结一张未解决的工单
- 建议对工单作出回复
- 更新工单状态或将其分配给团队成员
- 为客户的查询检索相关的常见问题解答
提示/大型语言模型指令
- “分析这张工单，并提出优先级建议。”
- “鉴于该客户的过往情况，建议使用现有工具来提供解决方案。”
- “生成一个礼貌的回复，总结解决步骤。”
______________________________________________________________________
基准点
- 操作延迟
- 测量每个框架允许大型语言模型（LLM）获取工单数据、总结并生成回复的速度。
- 负载下的吞吐量
- 模拟多个同时的客户请求，以查看哪个框架在处理并发的大型语言模型（LLM）交互时表现更好。
- 集成复杂性
- FastMCP： 明确界定资源、工具和提示；更具灵活性，但设置也更复杂。 - FastAPI-MCP： 利用现有的FastAPI接口处理工单和常见问题；实现更快集成。
- 安全与权限
- 测试访问控制，以确保只有经过授权的大语言模型（LLM）查询才能更新工单。
- 错误处理与日志记录
- 检查每个框架在大型语言模型（LLM）请求无法完成或外部API失败时如何处理故障。