克劳德LMStudio桥
一个简单的模型控制协议(MCP)服务器,允许Claude通过以下方式与本地运行的LLM模型通信 LM工作室.
概述
此桥使Claude能够向LM Studio中本地运行的模型发送提示并接收其响应。这可用于:
- 将克劳德的反应与其他模型进行比较
- 访问特定任务的专用本地模型
- 即使在Claude API配额有限的情况下也运行查询
- 将敏感查询完全保留在本地
先决条件
安装
- 克隆此存储库:
git clone https://github.com/infinitimeless/Claude-LMStudio-Bridge_V2.git
cd Claude-LMStudio-Bridge_V2- 创建虚拟环境:
python -m venv venv
source venv/bin/activate # On Windows: venv\Scripts\activate- 安装所需的软件包(选择一种方法):
使用requirements.txt:
pip install -r requirements.txt或者直接安装依赖项:
pip install requests "mcp[cli]" openai anthropic-mcp用法
- 启动LM Studio并加载您喜欢的模型。
- 确保LM Studio的本地服务器正在运行(默认情况下通常在端口1234上)。
- 运行网桥服务器:
python lmstudio_bridge.py- 在Claude的界面中,启用MCP服务器并将其指向本地运行的网桥。
- 现在,您可以在与Claude的对话中使用以下MCP工具:
- health_check:检查LM Studio API是否可访问 - list_models:获取LM Studio中可用型号的列表 - get_current_model:检查当前加载的型号 - chat_completion:向当前模型发送提示
示例
连接后,您可以要求Claude使用本地模型:
Claude, please use the LM Studio bridge to ask the local model: "What's your opinion on quantum computing?"克劳德将使用 chat_completion 工具将查询发送到本地模型并显示响应。
配置
默认情况下,网桥在以下位置连接到LM Studio http://localhost:1234/v1。如果您的LM Studio实例正在其他端口上运行,请修改 LMSTUDIO_API_BASE 变量in lmstudio_bridge.py.
故障排除
如果您遇到依赖关系问题,请尝试直接安装它们:
pip install requests "mcp[cli]" openai anthropic-mcp有关详细的安装说明和故障排除,请参阅 安装指南.
许可证
麻省理工学院
贡献
欢迎投稿!请随时提交拉取请求。
