带MCP服务器的LLM定价聊天机器人
项目概述
该项目是一个智能聊天机器人，可以抓取和分析来自不同提供商的LLM推理服务定价。它使用模型上下文协议（MCP）架构将Firecrawl的web抓取API与Claude AI集成在一起，将结构化定价数据存储在SQLite数据库中以进行高效查询。
主要特点
- 网络爬取：使用Firecrawl API自动从主要LLM提供商中抓取定价信息
- 智能数据管理：在抓取之前首先检查数据库，以避免重复的API调用
- 结构化数据抽取：使用Claude AI提取定价信息并将其结构化到数据库中
- 价格有限的API调用：实施4秒延迟以防止速率限制错误
- 交互式CLI：基于聊天的界面，用于查询LLM定价信息
- 多提供商支持：支持cloudrift、deepinfra、fireworks和groq定价来源
建筑
- MCP 服务器 (
starter_server.py)：提供抓取网站和提取内容的工具 - 客户端 (
starter_client.py)：协调Claude AI、MCP服务器和SQLite数据库之间的通信 - 模型：Claude 3.5 Haiku，用于经济高效的结构化数据提取
- 数据库：SQLite用于存储包含公司、型号和成本详细信息的定价计划
支持的LLM提供商
- CloudRift: https://www.cloudrift.ai/inference
- DeepInfra: https://deepinfra.com/pricing
- 烟花: https://fireworks.ai/pricing#serverless-定价
- 格罗克: https://groq.com/pricing
安装说明
- 用紫外线做一个真空吸尘器
- 将venv与pyproject.toml同步(
uv sync) - 在Anthropic和Firecrawl上制作API密钥
- 在中完成2次工具调用
starter_server.py - 更改
server_config.json指向您的服务器文件 - 完成中的任何部分
starter_client.py上面写着“#complete”。 - 使用课程中教授的任何方法进行测试
示例用法
聊天机器人在抓取之前会智能地检查数据库。使用以下提示：
- “云裂了多少钱(https://www.cloudrift.ai/inference)deepseek v3收费？"
- “deepinfra多少钱(https://deepinfra.com/pricing)deepseek v3收费”
- “比较cloudrift ai和deepinseek v3的成本”
- 类型
show data查看最近存储的定价信息 - 类型
quit退出
示例1:CloudRift AI定价查询
查询： “cloudrift ai对deepseek v3的收费是多少？”
______________________________________________________________________
示例2：DeepInfra定价查询
查询： “deepinseek v3的deepinfra收费是多少？”
______________________________________________________________________
示例3：定价比较
查询： “比较cloudrift ai和deepinseek v3的成本”
______________________________________________________________________
示例4：附加提供者测试
______________________________________________________________________
示例5：扩展测试
数据库模式
pricing_plans (
id INTEGER PRIMARY KEY,
company_name TEXT,
plan_name TEXT,
input_tokens REAL,
output_tokens REAL,
currency TEXT,
billing_period TEXT,
features TEXT (JSON),
limitations TEXT,
source_query TEXT,
created_at DATETIME
)