本地Phi-3 Mini（通过llama.cpp）
这个项目展示了如何运行一个量化（的模型或过程） Phi-3-mini-4k 在本地使用（进行建模） llama.cpp 来自一个简单的Python接口。
🏗️ 运行说明
- 确保您的模型和llama.cpp二进制文件路径已正确设置在
utils/config.py. - 运行：
python main.py
运维云端stdio官方级别未说明来源级核验
Floating AI Widget Local MCP
MCP Server
通过Python接口本地运行量化Phi-3-mini-4k模型的工具，基于llama.cpp实现。
工具数
0
提示词数
0
GitHub Stars
0
资源数
0
Python云端部署Docker
快速接入
先看主来源和安装命令，再打开仓库或文档；下面只保留这个条目的关键接入事实。
命令预览
python main.py
详细介绍
目录标签
目录标签
Python云端部署Docker本地AI运行本地部署模型量化llama.cpp集成Python接口
接入字段
传输方式（transport，传输协议）
stdio
鉴权方式（authType，认证方式）
none
运行时（runtime，运行环境）
Python
工具数量（toolCount，工具数）
0
资源数量（resourceCount，资源数）
0
提示词数量（promptCount，提示词数）
0
权限和风险
stdionone部署方式未说明
接入前请确认传输方式、认证方式和部署位置，并根据实际工具能力限制访问范围。
安装前确认
不要直接授予不必要的文件、网络或账号权限；先核对安装命令和配置内容。