屏幕视觉MCP服务器
赋予Claude Code查看屏幕的能力
Screen Vision允许Claude捕获屏幕截图,通过音频转录实时观看屏幕,分析视频文件,并通过OCR读取文本。它在本地作为MCP服务器运行——当你询问时,Claude会看到你所看到的。
快速开始
pip install screen-vision[ocr]然后添加到您的Claude Code MCP配置中(.mcp.json):
{
"mcpServers": {
"screen-vision": {
"command": "screen-vision-mcp"
}
}
}OCR和视频的系统配置:
brew install tesseract # Required for OCR (read_screen_text)
brew install ffmpeg # Required for video analysis (analyze_video)你能说什么
"Take a screenshot of my screen" → capture_screen
"Capture the Chrome window" → capture_window
"Watch my screen for 1 minute" → watch_screen (with audio transcription)
"Analyze the video at ~/Downloads/demo.mp4" → analyze_video
"Read the text on my screen" → read_screen_text
"What window am I in?" → get_active_context (no screenshot)
"What's on my screen right now?" → understand_screen (AI analysis)
"Analyze this photo I AirDropped" → analyze_image工具(14)
| 工具 | 它的作用 | 需要 |
|---|---|---|
capture_screen | 延迟全屏捕捉+多显示器 | -- |
capture_region | 捕获特定的矩形区域 | -- |
capture_window | 按标题捕获窗口 | -- |
list_monitors | 列表显示分辨率 | -- |
get_active_context | 窗口/光标/监视器信息(无图像) | -- |
read_screen_text | 从屏幕提取OCR文本 | 镶嵌 |
understand_screen | AI电源屏幕分析 | 人类API键 |
analyze_image | 分析丢弃/空投的图像文件 | -- |
watch_screen | 使用帧采样+音频 | ffmpeg(音频)观看屏幕 |
analyze_video | 从视频文件中提取关键帧 | ffmpeg |
capture_camera | 从手机摄像头中获取最新画面 | -- |
watch_camera | 带场景检测+音频的流式手机摄像头 | -- |
show_pairing_qr | 显示二维码以连接手机摄像头 | -- |
phone_status | 检查手机摄像头连接状态 | -- |
安全
Screen Vision包括企业环境的安全控制:
- PII/PCI扫描 --检测OCR文本中的信用卡号码、SSN、电话号码、电子邮件地址
- 应用拒绝列表 --拦截Slack、Teams、Zoom、银行应用程序、密码管理器
- 呼叫检测 --在活动音频通话期间阻止捕获
- 速率限制 --200次捕获/会话,最小间隔2秒,最大观看时间5分钟
- 审计日志 --所有捕获记录到
~/.screen-vision/audit.log
集 SCREEN_VISION_MODE=work 启用所有安全控制。默认模式为 personal (无限制)。
依赖项
核心 (始终安装): mcp[cli], mss, Pillow, numpy, httpx
额外内容 (混合搭配):
| 额外 | 安装 | 您将获得什么 |
|---|---|---|
[ocr] | pip install screen-vision[ocr] | pytesseract --通过tesseract进行OCR(约5MB,需要 brew install tesseract) |
[paddle] | pip install screen-vision[paddle] | paddleocr + opencv-python-headless --更高精度OCR(~1GB,独立) |
[audio] | pip install screen-vision[audio] | faster-whisper + sounddevice --音频转录 watch_screen |
[full] | pip install screen-vision[full] | 以上所有 |
需要Python 3.11+。
发展
pip install -e ".[ocr,test]"
pytest tests/ -v
ruff check src/作者
亚历克斯 维库纳 —
贡献
问题和PR欢迎:https://github.com/avicuna/screen-vision
