Ollama MCP Server

Ollama MCP服务器

🚀 Ollama和模型上下文协议（MCP）之间的强大桥梁，使Ollama的本地LLM功能能够无缝集成到您的MCP驱动的应用程序中。

🌟 特性

完成Ollama集成

• API全面覆盖：通过干净的MCP界面访问Olama的所有基本功能
• OpenAI兼容聊天：代替OpenAI的聊天完成API
• 本地LLM电源：在本地运行具有完全控制和隐私的AI模型

核心能力

• 🔄 模型管理

- 从注册表中提取模型 - 将模型推送到注册表 - 列出可用型号 - 从模型文件创建自定义模型 - 复制和删除模型

• 🤖 模型执行

- 使用可自定义的提示运行模型 - 具有系统/用户/助手角色的聊天完成API - 可配置参数（温度、超时） - 原始模式支持直接响应

• 🛠 服务器控件

- 启动并管理Ollama服务器 - 查看详细的模型信息 - 错误处理和超时管理

🚀 入门指南

先决条件

• 没有 安装在您的系统上
• Node.js和npm/pnpm

安装

1. 安装依赖项：

pnpm install

1. 构建服务器：

pnpm run build

配置

将服务器添加到MCP配置中：

对于Claude Desktop：

MacOS： ~/Library/Application Support/Claude/claude_desktop_config.json 窗户： %APPDATA%/Claude/claude_desktop_config.json

{
  "mcpServers": {
    "ollama": {
      "command": "node",
      "args": ["/path/to/ollama-server/build/index.js"],
      "env": {
        "OLLAMA_HOST": "http://127.0.0.1:11434"  // Optional: customize Ollama API endpoint
      }
    }
  }
}

🛠 使用示例

拉动并运行模型

// Pull a model
await mcp.use_mcp_tool({
  server_name: "ollama",
  tool_name: "pull",
  arguments: {
    name: "llama2"
  }
});

// Run the model
await mcp.use_mcp_tool({
  server_name: "ollama",
  tool_name: "run",
  arguments: {
    name: "llama2",
    prompt: "Explain quantum computing in simple terms"
  }
});

聊天完成（兼容OpenAI）

await mcp.use_mcp_tool({
  server_name: "ollama",
  tool_name: "chat_completion",
  arguments: {
    model: "llama2",
    messages: [
      {
        role: "system",
        content: "You are a helpful assistant."
      },
      {
        role: "user",
        content: "What is the meaning of life?"
      }
    ],
    temperature: 0.7
  }
});

创建自定义模型

await mcp.use_mcp_tool({
  server_name: "ollama",
  tool_name: "create",
  arguments: {
    name: "custom-model",
    modelfile: "./path/to/Modelfile"
  }
});

🔧 高级配置

• OLLAMA_HOST：配置自定义Ollama API端点（默认值：http://127.0.0.1:11434)
• 模型执行的超时设置（默认值：60秒）
• 响应随机性温度控制（0-2范围）

🤝 贡献

欢迎投稿！请随意：

• 报告错误
• 建议新功能
• 提交拉取请求

📝 许可证

MIT许可证-您可以在自己的项目中自由使用！

______________________________________________________________________

内置于❤️ 对于MCP生态系统