LLM API Security
Best practices for securing LLM API endpoints - authentication, rate limiting, key management, and cost control
Updated: August 2026
LLM API の脅威状況
API キーの公開
ソース コード内のハードコードされたキー、クライアント側の公開、または認証情報の漏洩
レート制限の悪用
API クォータを消費する、またはサービス拒否を引き起こす自動化された攻撃
コスト攻撃
過剰なトークン使用と予期せぬコストを引き起こす迅速な操作
データ漏洩
ログを通じて公開されるプロンプトまたは応答の機密データ
認証方法
API キー
- ユーザー/アプリケーションごとに一意のキーを生成
- ストレージに環境変数を使用
- キーを定期的に (30 ～ 90 日) ローテーションする
- キー失効を実装
OAuth 2.0
- ユーザー向けアプリケーションに実装
- 有効期間の短いアクセス トークンを使用
- リフレッシュ トークンを実装する
- 適切なスコープ定義
JWT Tokens
- 有効期限が短い
- 強力な署名アルゴリズム
- 適切な申し立て検証
- トークン失効のサポート
レート制限とスロットリング
トークンベースの制限
- 入力 + 出力トークンを追跡
- 1 分あたり/1 日あたりの制限を設定
- スライディング ウィンドウを使用する
- バースト許容量を実装する
コスト管理
- Budget alerts (various thresholds)
- ユーザーごとのクォータ
- リクエスト前のトークン推定
- サーキット ブレーカー付きのハード キャップ
段階的アプローチ
- 無料利用枠: 厳格な制限
- 基本: 中程度の制限
- メリット: 制限が高い
- エンタープライズ: カスタム アグリーメント
プロバイダー セキュリティの比較
| プロバイダ | 主な機能 | レート制限 | セキュリティ |
|---|---|---|---|
| OpenAI | GPT モデル、アシスタント API | 層ベースの RPM | SOC 2、API キー管理 |
| Anthropic | クロード、ツールの使用 | トークンベース | SOC 2、HIPAA 利用可能 |
| Gemini、Vertex AI | プロジェクト クォータ | SOC 2、HIPAA、ISO | |
| AWS Bedrock | 複数のモデル | アカウント ベース | AWS IAM、VPC、暗号化 |
セルフホスト型 LLM セキュリティ
ネットワーク分離
- VPC/プライベート ネットワークにデプロイ
- ファイアウォール ルールを使用
- 公衆インターネット アクセスなし
- 管理用 VPN
API セキュリティ
- 認証を有効にする
- TLS/SSL を使用する
- API キーの実装
- レート制限
モデル保護
- 保存時に暗号化されたモデル ファイル
- 安全なモデル読み込み
- モデルのエクスポートなし
- アクセスログ
Cost Attacks & Abuse Prevention
LLM APIs present unique cost attack vectors that traditional API security doesn't address.
Prompt Padding
Attacker adds invisible text to prompts to increase token count without user awareness.
User: [100KB invisible text] Tell me about AI
Repeated Requests
Automated tools making excessive API calls to drain budget quotas.
Context Window Overflow
Sending extremely long inputs to maximize per-request costs.
Model Selection Abuse
Switching to more expensive models through parameter manipulation.
Mitigations
- Implement token estimation before requests
- Set per-user/month cost hard limits
- Use input length limits and validation
- Fix model selection to intended tier
- Monitor for unusual usage patterns
Recent LLM API CVEs
| CVE ID | Description | Severity |
|---|---|---|
CVE-2025-61260 |
OpenAI Codex CLI command injection via project-local .env config | Critical |
CVE-2025-53767 |
Azure OpenAI privilege escalation flaw | High |
CVE-2025-14980 |
BetterDocs WordPress plugin exposes OpenAI API key to contributors | High |