Sichere KI-Entwicklung
Erstellen Sie sichere KI-Anwendungen mit Best Practices, Abwehrmustern und Codebeispielen für jede Ebene des Stacks.
Security by Design-Prinzipien
Integrieren Sie Sicherheit ab der ersten Codezeile, nicht erst im Nachhinein:
- Zero-Trust für KI: Vertrauen Sie niemals Modellausgaben. Validieren, bereinigen und beschränken Sie jede Antwort, bevor sie Benutzer oder nachgelagerte Systeme erreicht.
- Verteidigung im Detail: Überlagern Sie mehrere Kontrollen – Eingangsfilter, Ausgangsschutz, Ratenbegrenzungen und Überwachung –, damit ein einzelner Fehler das System nicht beeinträchtigt.
- Geringstes Privileg: Gewähren Sie KI-Systemen nur die Berechtigungen, die sie unbedingt benötigen. Beschränken Sie den Dateisystem-, Netzwerk- und API-Zugriff.
- Sicher scheitern: Wenn etwas schief geht, wird standardmäßig der sicherste Zustand verwendet. Lehnen Sie mehrdeutige Eingaben ab, anstatt zu versuchen, sie zu verarbeiten.
- Beobachtbarkeit: Protokollieren Sie jede KI-Interaktion mit vollständigem Kontext. Überwachen Sie auf Anomalien, Abweichungen und Angriffsmuster.
Wichtige Sicherheitsbereiche
Eingabevalidierung
Behandeln Sie alle Benutzereingaben als feindselig. Führen Sie eine strenge Validierung durch, bevor Daten das Modell erreichen.
- Zulässige Zeichen und Muster auf die Whitelist setzen
- Begrenzen Sie die Eingabelänge aggressiv
- Verschlüsselte oder verschleierte Nutzdaten ablehnen
- Validieren Sie anhand bekannter Injektionsmuster
import re
def validate_input(user_input):
if len(user_input) > 1000:
raise ValueError("Input too long")
if not re.match(r'^[\w\s.,!?-]+$', user_input):
raise ValueError("Invalid characters")
return user_input
Ausgabebereinigung
Modellausgaben können schädliche Inhalte, Lecks oder Injektionsartefakte enthalten. Vor der Ausstellung desinfizieren.
- Entfernen Sie HTML/JS aus den Modellausgaben
- Filtern Sie personenbezogene Daten und sensible Muster
- Blockieren Sie bekannte schädliche Ausgabemuster
- Ratenbegrenzte Ausgabelänge und -frequenz
import bleach
def sanitize_output(model_output):
clean = bleach.clean(model_output, tags=[], strip=True)
# Remove potential system prompt leaks
clean = re.sub(r'(?i)(system|instruction|prompt):', '[REDACTED]', clean)
return clean
PI-Sicherheit
Sichern Sie LLM-API-Endpunkte mit Authentifizierung, Ratenbegrenzung und Schlüsselrotation.
- Erzwingen Sie die API-Schlüsselauthentifizierung pro Endpunkt
- Implementieren Sie abgestufte Ratenbegrenzungen pro Benutzer/IP
- Rotieren Sie API-Schlüssel bei Kompromiss oder Zeitplan
- Überwachen Sie auf ungewöhnliche Nutzungsmuster
Modellsicherheit
Schützen Sie Modellgewichte, Konfigurationen und Inferenzinfrastruktur.
- Verschlüsseln Sie Modelldateien im Ruhezustand und während der Übertragung
- Beschränken Sie den Zugriff auf Modellartefakte
- Überwachen Sie auf Extraktionsversuche
- Verwenden Sie Modellwasserzeichen zur Rückverfolgbarkeit
Datenschutz
Schützen Sie Trainingsdaten, Benutzereingaben und Gesprächsverlauf.
- Trainingsdatensätze anonymisieren
- Implementieren Sie Grenzwerte für die Aufbewahrung von Gesprächen
- Verschlüsseln Sie gespeicherte Gespräche
- Benutzern erlauben, ihre Daten zu löschen (DSGVO/CCPA)
Häufige Fehler, die es zu vermeiden gilt
Vertrauenswürdige Modellausgaben
Übergeben Sie die Rohmodellausgabe niemals ohne Validierung an Datenbanken, Shells oder Benutzer. Modelle können mit einem Jailbreak versehen werden, um SQL-Injection-, XSS- oder Command-Injection-Nutzlasten zu generieren.
Zu freizügige Systemaufforderungen
Systemaufforderungen mit allgemeinen Anweisungen wie „Seien Sie hilfreich“ oder „Beantworten Sie jede Frage“ können leicht manipuliert werden. Verwenden Sie eingeschränkte, spezifische Anweisungen mit expliziten Grenzen.
Keine Ratenbegrenzung
Ohne Ratenbeschränkungen können Angreifer Eingabeaufforderungen brutal erzwingen, Daten durch wiederholte Abfragen extrahieren oder API-Kosten in die Höhe treiben. Implementieren Sie abgestufte Limits pro Benutzer und pro IP.
Ignorieren von kontradiktorischen Tests
Die Bereitstellung ohne gegnerische Tests ist wie das Versenden von Code ohne Komponententests. Verwenden Sie Tools wie Garak und PyrIT, um Schwachstellen zu finden, bevor es Angreifer tun.
Gehen Sie tiefer
Entdecken Sie unseren umfassenden Leitfaden zur sicheren Entwicklung mit detaillierten Codebeispielen, Architekturmustern und CI/CD-Integration.
Leitfaden zur sicheren Entwicklung →