文件结构
├── .env.example # Example environment variables
├── .gitignore # Files to exclude from git
├── LICENSE # Open source license (MIT, Apache, etc.)
├── README.md # Project documentation
├── server.py # MCP server implementation (previously fastmcp_server.py)
├── requirements.txt # Python dependencies
└── src/ # Source code directory
├── __init__.py # Package initialization
└── services/ # Services
├── __init__.py
└── ollama.py # Ollama service水獭桥
OtterBridge是一个轻量级、灵活的服务器，用于将应用程序连接到各种大型语言模型提供商。遵循Anthropic构建有效代理指南中概述的简单性和可组合性原则，OtterBridge为LLM提供了一个干净的界面，同时保持了对不同用例的适应性。
目前支持Olama，并计划扩展以支持ChatGPT和Claude等其他提供商。
特性
- 供应商不可知：旨在与多家LLM提供商合作（目前为Ollama，ChatGPT和Claude即将推出）
- 简单、可组合的设计：遵循LLM代理架构的最佳实践
- 轻量级服务器：采用FastMCP构建，实现可靠、高效的服务器实施
- 模型管理：轻松访问模型信息和功能
为什么是“水獭桥”？
就像在河岸之间建立联系的水獭一样，OtterBridge在您的应用程序和各种LLM提供商之间创建了无缝的路径。正如水獭适应性强、足智多谋一样，OtterBridge也能适应不同的LLM后端，同时提供一致的接口。
先决条件
在安装OtterBridge之前，您需要：
安装
- 克隆此存储库：
git clone https://github.com/yourusername/otterbridge.git
cd otterbridge- 使用uv安装依赖项：
uv add -r requirements.txt- 创建一个
.env基于提供的文件.env.example:
cp .env.example .env- 在中配置环境变量
.env文件。
Claude桌面集成
对于Claude Desktop用户，您需要将OtterBridge添加到Claude Desktop配置中：
- 打开您的Claude Desktop配置文件
- 添加以下配置（调整路径以匹配您的本地安装）：
"otterbridge": {
"command": "uv",
"args": [
"--directory",
"C:\\Path\\To\\Your\\otterbridge",
"run",
"server.py"
]
}用法
启动服务器
OtterBridge可以通过两种方式启动：
- 手动启动以进行测试:
:\*\*
uv run server.py- MCP客户端自动启动：
- 使用兼容的MCP客户端（如Claude Desktop）时，OtterBridge将在需要时自动启动
可用工具
OtterBridge通过模型上下文协议（MCP）公开了以下工具：
- 聊天：向LLM发送消息并获得AI生成的响应
- list_models：检索有关可用语言模型的信息
工具使用示例
列出可用型号
示例响应：
{
"status": "connected",
"server_status": "online",
"available_models": ["llama3", "llama3.1:8b", "codellama", "llama3.3", "qwen2.5"],
"available_models_count": 5,
"message": "Successfully retrieved available Ollama models"
}聊天完成
示例响应：
{
"role": "assistant",
"content": "I'm doing well, thank you for asking! I'm here and ready to help you with any questions or tasks you might have. How can I assist you today?",
"model": "llama3:latest"
}配置
OtterBridge可以使用环境变量进行配置：
| 变量 | 描述 | 默认值 |
|---|---|---|
OLLAMA_BASE_URL | Ollama服务器的URLhttp://localhost:11434 | |
DEFAULT_MODEL | 要使用的默认模型 | llama3.3 |
路线图
- 2025年第二季度：支持ChatGPT API集成
- 2025年第3季度：支持Claude API集成
贡献
欢迎投稿！请随时提交拉取请求。
开发指南
- 分叉存储库
- 创建要素分支(
git checkout -b feature/amazing-feature) - 提交您的更改(
git commit -m 'Add some amazing feature') - 推到分支(
git push origin feature/amazing-feature) - 打开拉取请求
许可证
该项目根据 MIT许可证.
致谢
- MCP（模型上下文协议） 对于服务器框架
- 没有 用于本地LLM托管
- Anthropic构建有效代理的指南 建筑灵感
奥特布里奇
OtterBridge是一个轻量级的mcp服务器，用于将应用程序连接到各种大型语言模型提供程序。