Chatbot The MCP Way

MCP聊天

MCP Chat是一个命令行界面应用程序，可以使用Llama（通过Ollama）与AI模型进行交互式聊天。该应用程序通过MCP（模型控制协议）架构支持文档检索、基于命令的提示和可扩展的工具集成。

先决条件

• Python 3.10+
• Ollama已在本地安装并运行（用于Llama推理）
• 在Ollama下载的Llama模型

设置

步骤0：安装并启动Olama

1. 下载并安装 奥拉玛
2. 拉一个Llama模型：

   ollama pull llama2

1. 启动Ollama服务器：

   ollama serve

服务器将在上运行 http://localhost:11434 默认情况下。

步骤1：配置环境变量

1. 创建或编辑 .env 在项目根目录中创建文件，并验证以下变量是否设置正确：

LLAMA_MODEL="llama2"  # Change to your downloaded model if different
OLLAMA_BASE_URL="http://localhost:11434"  # Ollama server URL

步骤2：安装依赖项

选项1：使用紫外线设置（推荐）

紫外线 是一个快速的Python包安装程序和解析器。

1. 如果尚未安装，请安装uv：

pip install uv

1. 创建并激活虚拟环境：

uv venv
source .venv/bin/activate  # On Windows: .venv\Scripts\activate

1. 安装依赖项：

uv pip install -e .

1. 运行项目

uv run main.py

选项2：无紫外线设置

1. 创建并激活虚拟环境：

python -m venv .venv
source .venv/bin/activate  # On Windows: .venv\Scripts\activate

1. 安装依赖项：

pip install requests python-dotenv prompt-toolkit "mcp[cli]==1.8.0"

1. 运行项目

python main.py

用法

基本相互作用

只需键入您的信息，然后按Enter键即可与模特聊天。

文献检索

使用@符号后跟文档ID在查询中包含文档内容：

> Tell me about @deposition.md

命令

使用/前缀执行MCP服务器中定义的命令：

> /summarize deposition.md

按Tab键时，命令将自动完成。

发展

添加新文档

编辑 mcp_server.py 将新文档添加到 docs 字典。

实施MCP功能

要完全实现MCP功能：

1. 在中完成TODO mcp_server.py
2. 实现中缺失的功能 mcp_client.py

敲击和打字检查

没有实施棉绒或类型检查。