安全的GenAI网关和MCP服务器
🤖 项目概述
该项目实现了 安全的GenAI网关 它充当访问大型语言模型（LLM）的集中控制平面，如 亚马逊基石。它执行安全策略，对输入进行消毒以防止PII泄漏，并实施 模型上下文协议（MCP） 有效路由请求的模式。
主要特点：
- 集中式网关：所有内部人工智能消费的单一API入口点。
- 输入消毒：基于Python的中间件，用于剥离PII并阻止提示注入攻击。
- 模型上下文协议（MCP）：结构化路由，为LLM提供必要的上下文和工具。
- 私人访问：配置了资源策略以限制对公司VPN的访问。
- 无服务器架构：基于AWS Lambda和API网关构建，实现无限扩展和零闲置成本。
🏗️ 建筑
- API网关：处理身份验证和速率限制。
- Lambda中间件：执行净化逻辑和MCP路由。
- 亚马逊基石：提供对基础模型（Claude 3、Titan等）的访问。
🛠️ 技术栈
- 计算：AWS Lambda（Python 3.9）
- API：亚马逊API网关（REST）
- AI模型：《亚马逊基岩》（克劳德三首十四行诗）
- IAC公司：AWS SAM（无服务器应用程序模型）
📂 存储库结构
├── src/
│ ├── lambda_function.py # Core Logic (Sanitization + Bedrock Call)
│ └── requirements.txt # Dependencies
├── template.yaml # AWS SAM Infrastructure Definition
└── GenAI_Project_Guide.md # Detailed Documentation🔒 安全特性
- PII补救措施：自动检测并阻止敏感数据模式（SSN、电子邮件）。
- 提示防火墙：通过系统提示执行防止“越狱”企图。
- 审计日志：CloudWatch日志中的完整请求/响应跟踪。
🚀 部署
要使用AWS SAM部署此堆栈，请执行以下操作：
sam build
sam deploy --guided📄 许可证
此项目根据MIT许可证获得许可-请参阅 许可证 文件以获取详细信息。