Jetson MCP

JetsonMCP

一个MCP服务器，将AI助手连接到NVIDIA Jetson Nano Super系统，用于全面的边缘计算管理、AI工作负载优化和系统管理。

JetsonMCP使Claude等AI助手能够通过SSH连接帮助配置和管理Jetson Nano系统。从人工智能模型部署到系统优化，用自然语言提问，而不是学习复杂的CUDA和Linux命令。

🚀 JetsonMCP的独特之处

为边缘AI计算而构建

• CUDA工具包管理和优化
• JetPack SDK集成和更新
• 人工智能框架安装（TensorFlow、PyTorch、TensorRT）
• 模型部署和推理优化

硬件特定优化

• GPU内存管理和监控
• 电源模式配置（10W/5W模式）
• 热节流温度监测
• 风扇曲线管理和冷却优化

容器和编排

• 针对AI工作负载的Docker容器管理
• NVIDIA容器工具包集成
• Kubernetes边缘部署支持
• 多架构容器支持（ARM64）

🎯 运作原理

自然语言请求通过MCP协议通过Claude Desktop转换为在Jetson Nano上执行的优化命令。

示例：

人工智能和机器学习操作：

• *“部署YOLOv5模型进行对象检测”* -下载、优化和运行推理
• *“检查CUDA内存使用情况”* -监控GPU利用率和内存分配
• *“切换到5W电源模式”* -优化电池运行的功耗
• *“安装TensorRT优化”* -设置高性能推理引擎

系统管理：

• *“运行推理时监控GPU温度”* -实时热监测
• *“将JetPack更新到最新版本”* -管理NVIDIA软件堆栈更新
• *“针对AI工作负载优化Docker”* -配置GPU加速的运行时

边缘计算：

• *“部署轻量级Kubernetes集群”* -为边缘编排设置K3
• *“配置远程模型服务”* -设置推理端点
• *“在AI任务期间监控系统资源”* -性能分析和优化

🔧 主要特点

边缘人工智能管理

• CUDA工具包集成 -CUDA环境的自动设置和管理
• JetPack管理 -SDK更新、组件安装和版本控制
• AI框架支持 -TensorFlow、PyTorch、OpenCV、TensorRT优化
• 模型部署 -自动模型转换、优化和服务

硬件优化

• 电源管理 -动态功率模式切换（10W/5W/MAXN）
• 热管理 -自动节流温度监测
• GPU监控 -内存使用率、利用率和性能指标
• 风扇控制 -自定义风扇曲线和冷却优化

容器编排

• NVIDIA Docker 的 -GPU加速的容器运行时管理
• 边缘Kubernetes -用于分布式AI工作负载的K3部署
• 多拱支撑 -ARM64容器管理和部署
• 注册表管理 -边缘部署的专用注册表设置

系统管理

• 远程管理 -基于SSH的安全系统管理
• 包管理 -APT和snap包安装/更新
• 服务管理 -系统化的服务控制和监控
• 备份和恢复 -系统状态管理和恢复

📋 先决条件

Jetson Nano设置

1. 新鲜JetPack安装 （4.6+推荐）
2. SSH访问已启用
3. 充足的电源 （建议使用5V/4A以获得完整性能）
4. MicroSD卡 （推荐64GB+）或NVMe SSD
5. 互联网连接 用于包装安装

网络配置

• 建议使用静态IP进行一致访问
• 防火墙配置为允许SSH（端口22）
• 可选：远程访问的VPN设置

⚡ 快速开始

1.准备你的Jetson Nano

# Enable SSH (if not already enabled)
sudo systemctl enable ssh
sudo systemctl start ssh

# Configure passwordless sudo (required for system management)
sudo visudo
# Add: yourusername ALL=(ALL) NOPASSWD:ALL

# Get your Jetson's IP address
hostname -I

2.安装JetsonMCP

# Clone repository
git clone https://github.com/ajeetraina/jetsonMCP.git
cd jetsonMCP

# Create virtual environment
python3 -m venv venv
source venv/bin/activate

# Install dependencies
pip install -e .

3.配置连接

# Copy configuration template
cp .env.example .env

# Edit with your Jetson's details
nano .env

必需 .env 设置：

JETSON_HOST=192.168.1.100        # Your Jetson's IP address
JETSON_USERNAME=your_username     # SSH username
JETSON_PASSWORD=your_password     # SSH password (or use SSH key)
# JETSON_SSH_KEY_PATH=~/.ssh/id_rsa  # Alternative: SSH key path

# Optional: Advanced Configuration
JETSON_POWER_MODE=0              # 0=MAXN, 1=5W, 2=10W
CUDA_VISIBLE_DEVICES=0           # GPU device selection
DOCKER_REGISTRY=localhost:5000   # Private registry for edge deployments

4.克劳德桌面集成

添加到您的Claude Desktop配置中：

macOS： ~/Library/Application Support/Claude/claude_desktop_config.json 窗户： %APPDATA%\Claude\claude_desktop_config.json\ Linux： ~/.config/Claude/claude_desktop_config.json

{
  "mcpServers": {
    "jetsonmcp": {
      "command": "python",
      "args": ["-m", "jetsonmcp.server"],
      "cwd": "/absolute/path/to/jetsonMCP"
    }
  }
}

重新启动Claude Desktop以加载服务器。

🛠️ 可用工具

人工智能和机器学习管理

• manage_ai_workloads -模型部署、推理优化、CUDA管理
• manage_jetpack -JetPack SDK安装、更新、组件管理
• manage_frameworks -TensorFlow、PyTorch、OpenCV、TensorRT安装

硬件控制

• manage_hardware -电源模式、温度监测、风扇控制、GPIO
• manage_performance -CPU/GPU调速器、频率缩放、热管理
• manage_storage -SSD优化、交换配置、磁盘管理

集装箱作业

• manage_containers -Docker管理、NVIDIA运行时、GPU加速
• manage_orchestration -Kubernetes/K3s部署、边缘计算设置
• manage_registry -私有注册表设置、多拱形映像管理

系统管理

• manage_system -包管理、更新、服务控制、网络
• manage_security -防火墙、SSH密钥、用户管理、系统加固
• manage_monitoring -系统指标、日志记录、警报、远程监控

🔧 高级配置

电源管理

# Available power modes
# 0: MAXN (15W) - Maximum performance
# 1: 5W - Power efficient mode  
# 2: 10W - Balanced mode
sudo nvpmodel -m 1  # Switch to 5W mode

CUDA环境

# Verify CUDA installation
nvcc --version
nvidia-smi

# Set CUDA paths (automatically configured by JetsonMCP)
export PATH=/usr/local/cuda/bin:$PATH
export LDFLAGS=-L/usr/local/cuda/lib64:$LDFLAGS

Docker GPU支持

# NVIDIA Container Toolkit (managed by JetsonMCP)
distribution=$(. /etc/os-release;echo $ID$VERSION_ID)
curl -s -L https://nvidia.github.io/nvidia-docker/gpgkey | sudo apt-key add -
curl -s -L https://nvidia.github.io/nvidia-docker/$distribution/nvidia-docker.list | sudo tee /etc/apt/sources.list.d/nvidia-docker.list

🧪 测试与开发

运行测试

# Run all tests
make test

# Specific component tests
make test-ai          # AI workload management
make test-hardware    # Hardware control
make test-containers  # Container operations
make test-system      # System administration

# Integration tests
python run_tests.py --integration --coverage

开发设置

# Install development dependencies
pip install -e ".[dev]"

# Pre-commit hooks
pre-commit install

# Code formatting
black jetsonmcp/
isort jetsonmcp/

# Type checking
mypy jetsonmcp/

📊 监测和可观察性

系统度量

• CPU/GPU利用率 -实时性能监控
• 内存使用 -RAM和GPU内存跟踪
• 温度传感器 -热监测和警报
• 功耗 -当前电源模式和使用指标

人工智能工作量指标

• 推理延迟 -模型性能基准测试
• 吞吐量 -已部署模型的每秒请求数
• 资源利用率 -GPU内存和计算效率
• 模型精度 -性能验证和监控

🔒 安全功能

SSH安全

• 主机密钥验证和轮换
• 连接超时和重试逻辑
• 凭证管理和清理
• 所有操作的审核日志记录

集装箱安全

• 图像漏洞扫描
• 运行时安全策略
• 网络隔离和分段
• 人工智能模型的秘密管理

系统强化

• 防火墙配置管理
• 用户权限分离
• 系统更新自动化
• 安全补丁监控

🚀 用例

边缘人工智能开发

• 人工智能应用程序的快速原型制作
• 模型优化和基准测试
• 分布式推理部署
• 实时计算机视觉应用

物联网和传感器网络

• 传感器数据处理和分析
• 边缘计算编排
• 远程设备管理
• 预测性维护系统

工业应用

• 质量控制和检验
• 预测分析
• 自主系统开发
• 工业物联网集成

🤝 贡献

我们欢迎捐款！请看 贡献.md 作为指导方针。

发展重点

1. AI框架集成 -支持其他ML框架
2. 边缘编排 -高级Kubernetes边缘部署
3. 硬件抽象 -支持其他Jetson平台（AGX、Xavier）
4. 监控增强 -先进的遥测和可观测性