LLM API安全
保护 LLM API 端点的最佳实践 - 身份验证、速率限制、密钥管理和成本控制
Updated: November 2026
LLM API 威胁格局
API密钥暴露
源代码中的硬编码密钥、客户端暴露或泄露的凭据
速率限制滥用
消耗 API 配额或导致拒绝服务的自动攻击
成本攻击
提示操纵导致过度的代币使用和意外成本
数据泄漏
通过日志暴露的提示或响应中的敏感数据
身份验证方法
API密钥
- 为每个用户/应用程序生成唯一密钥
- 使用环境变量进行存储
- 定期轮换密钥(30-90 天)
- 实施密钥吊销
OAuth 2.0
- 面向用户的应用程序实施
- 使用短期访问令牌
- 实施刷新令牌的做法
- 正确的范围定义
JWT Tokens
- 到期时间短
- 强大的签名算法
- 正确的声明验证
- 令牌撤销支持
速率限制和节流
基于令牌的限制
- 跟踪输入 + 输出令牌
- 设置每分钟/每天限制
- 使用滑动窗
- 实施突发限额
成本控制
- Budget alerts (various thresholds)
- 每用户配额
- 请求前的令牌估计
- 带有断路器的硬上限
分层方法
- 免费套餐:严格限制
- 基本:中等限制
- 优点:更高的限制
- 企业:自定义协议
提供商安全比较
| 提供商 | 主要功能 | 速率限制 | 安全 |
|---|---|---|---|
| OpenAI | GPT模型、助手API | 基于层的RPM | SOC 2,API密钥管理 |
| Anthropic | Claude,工具使用 | 基于令牌 | SOC 2、HIPAA 可用 |
| Gemini、Vertex AI | 项目配额 | SOC 2、HIPAA、ISO | |
| AWS Bedrock | 多个模型 | 基于帐户 | AWS IAM、VPC、加密 |
自托管 LLM 安全
网络隔离
- 在VPC/专用网络中部署
- 使用防火墙规则
- 没有公共互联网访问
- 用于管理的VPN
API 安全
- 启用身份验证
- 使用 TLS/SSL
- 实施 API 密钥
- 速率限制
模型保护
- 静态加密的模型文件
- 安全模型加载
- 无模型导出
- 访问日志
成本攻击和滥用预防
LLM API 呈现出传统 API 安全无法解决的独特成本攻击向量。
提示填充
攻击者在用户不知情的情况下添加不可见文本来提示增加令牌计数。
User: [100KB invisible text] Tell me about AI
重复请求
自动化工具进行过多的 API 调用以耗尽预算配额。
上下文窗口溢出
发送极长的输入以最大化每个请求的成本。
模型选择滥用
通过参数操作切换到更昂贵的模型。
缓解措施
- 在请求之前实施令牌估计
- 设置每用户/月费用硬性限制
- 使用输入长度限制和验证
- 将模型选择修复为预期级别
- 监控异常使用模式
最近的 LLM API CVE
| CVE ID | Description | Severity |
|---|---|---|
CVE-2025-61260 |
OpenAI Codex CLI command injection via project-local .env config | Critical |
CVE-2025-53767 |
Azure OpenAI privilege escalation flaw | High |
CVE-2025-14980 |
BetterDocs WordPress plugin exposes OpenAI API key to contributors | High |
最佳实践清单
相关主题
相关文章
AH
Frequently Asked Questions
如何保护 LLM API 密钥?
切勿对 API 密钥进行硬编码。使用环境变量或秘密管理服务。定期轮换密钥,使用最小范围,并且切勿在客户端代码中公开它们。
哪些速率限制策略适用于 LLM API?
实施基于令牌的速率限制(每分钟请求数)、基于成本的限制、每用户配额和分层方法。在发出请求之前使用令牌估算来预测成本。