Claude-sidekick

克劳德·西迪kick

一个模型上下文协议（MCP）服务器，将Claude连接到您的本地Ollama模型，允许您卸载更简单的任务，并将Claude令牌保存用于复杂的工作。

快速开始

1.安装Olama

首先，在您的系统上安装Ollama：

# macOS
brew install ollama

# Linux
curl -fsSL https://ollama.ai/install.sh | sh

# Windows
# Download from https://ollama.ai/download

启动Ollama：

ollama serve

2.拉一些模型

下载适用于不同任务的有用模型：

# General purpose models
ollama pull gpt-oss           # OpenAI's open-weight model
ollama pull llama3.2          # Fast, capable model
ollama pull qwen2.5           # High-quality text generation

# Specialised models
ollama pull deepseek-coder    # Code generation
ollama pull nomic-embed-text  # Text embeddings
ollama pull llama3.2:1b       # Lightweight for simple tasks

3.设置MCP服务器

创建新目录并安装依赖项：

mkdir mcp-ollama-server
cd mcp-ollama-server

# Copy the files (index.ts, package.json, tsconfig.json)
# Then install dependencies:
npm install

# Create src directory and move index.ts there
mkdir src
mv index.ts src/

# Build the project
npm run build

4.配置克劳德桌面

将服务器添加到您的Claude Desktop配置中：

macOS： ~/Library/Application Support/Claude/claude_desktop_config.json 窗户： %APPDATA%\Claude\claude_desktop_config.json

{
  "mcpServers": {
    "ollama": {
      "command": "node",
      "args": ["/absolute/path/to/your/mcp-ollama-server/dist/index.js"],
      "env": {}
    }
  }
}

5.重新启动克劳德桌面

重新启动Claude Desktop以加载新的MCP服务器。您应该看到Claude中提供的Ollama工具。

可用工具

ollama_generate_text

为简单的写作任务、基本摘要或直接的内容创建生成文本。

最适合： 简单的写作、基本的解释、内容生成

ollama_chat

与当地模特进行对话，进行问答、解释或基于对话的任务。

最适合： 问答环节、讲解、互动任务

ollama_embed_text

生成用于语义相似性、聚类或搜索的文本嵌入。

最适合： 文档相似性、语义搜索、聚类

ollama_code_generation

使用专门的编码模型生成代码。

最适合： 简单的脚本、样板代码、基本编程任务

ollama_summarise

使用不同长度选项总结文本内容。

最适合： 文档摘要、文章压缩

ollama_list_models

列出Ollama安装中的所有可用型号。

ollama_pull_model

将新型号下载到Ollama。

使用示例

配置后，Claude可以使用以下工具：

文本生成：

“使用Ollama生成一个简单的客户入职电子邮件模板”

代码生成：

“让DeepSeek Coder创建一个Python脚本来解析CSV文件”

嵌入：

“使用Nomic为这些文档标题生成嵌入”

总结：

“使用Llama创建本文的简短摘要”

模型建议

用于文本生成

• gpt-oss -速度和质量的完美平衡
• 骆驼3.2 -速度和质量的良好平衡
• qwen2.5 -质量更高，但速度更慢
• 通话3.2:1b -对于简单任务来说非常快

用于编码

• gpt-oss -出色的代码生成
• 深寻编码器 -出色的代码生成
• qwen2.5编码器 -替代编码模型

用于嵌入

• nomic嵌入文本 -快速、高质量的嵌入
• mxbai嵌入大 -更大的嵌入模型

配置

自定义服务器

编辑 src/index.ts 修改：

• 基本URL: 更改Ollama端点（默认值： http://localhost:11434)
• 超时： 调整请求超时（默认值：5分钟）
• 默认型号： 修改默认使用的模型
• 温度设置： 调整创造力/随机性

环境变量

您可以使用环境变量覆盖设置：

export OLLAMA_BASE_URL=http://localhost:11434
export OLLAMA_TIMEOUT=300000

故障排除

“无法连接到Ollama”

1. 确保Olama正在运行： ollama serve
2. 检查它是否可访问： curl http://localhost:11434/api/tags
3. 验证没有防火墙阻止端口11434

“找不到模型”

1. 列出可用型号： ollama list
2. 提取缺失的模型： ollama pull model-name

“MCP服务器未出现在Claude中”

1. 检查配置文件路径是否正确
2. 验证构建的JavaScript文件的绝对路径
3. 完全重新启动克劳德桌面
4. 检查Claude Desktop日志是否有错误

性能提示

1. 使用较小的模型执行简单任务：

- llama3.2:1b 用于基本文本生成 - qwen2.5:0.5b 用于非常简单的任务

1. 保持常用型号的温暖：

   # Pre-load models to keep them in memory
   ollama run llama3.2 "hello"
   ollama run deepseek-coder "print hello"

1. 根据任务调整温度：

- 事实/编码任务低（0.1-0.3） - 中等（0.5-0.8）创意写作 - 高（0.9-1.2）表示非常有创意的任务

发展

在发展中奔跑

npm run dev        # Run with hot reload
npm run watch      # Watch mode
npm run type-check # Check TypeScript types
npm run lint       # Lint code

添加新工具

要添加新功能，请执行以下操作：

1. 在中定义工具 setupHandlers()
2. 添加处理程序方法
3. 如有需要，更新Ollama客户端
4. 重建并重新启动

扩展模型支持

要支持新的模型类型，请执行以下操作：

1. 在构造函数中添加模型配置
2. 创建特定的处理程序方法
3. 添加适当的提示策略

工作流示例

以下是您在实践中如何使用它：

1. 与克劳德的初步分析： “我需要分析这个数据集并创建一份全面的报告”

1. 委派简单任务： “使用Ollama为每个数据列生成基本描述”

1. 克劳德的复杂分析： 克劳德做了复杂的统计分析和见解

1. 卸载总结： “使用Llama总结调查结果的每一部分”

1. 与Claude进行最终审查： 克劳德把所有东西都整理成一份精美的报告

这种方法最大限度地提高了Claude代币的效率，同时仍然获得了全面的结果。

安全说明

• 此服务器在本地运行，不向外部发送数据
• 所有模型推理都在您的机器上进行
• 不需要API密钥或外部服务
• 您的数据完全保密

贡献

请随意扩展此服务器的其他功能：

• 图像生成支持
• 模型微调集成
• 性能监控
• 模型切换策略
• 自定义提示模板