I Playbook zur Reaktion auf Vorfälle
Step-by-step procedures for responding to AI security incidents including LLM breaches, agent compromise, and prompt injection - Updated July 2026
$4.2M
durchschnittliche Kosten für KI-Sicherheitsvorfälle
IBM-Kosten von Datenschutzverletzungen 2025)
29 min
Durchschnittliche Ausbruchszeit eines Verbrechens
CrowdStrike 2026)
47 days
Durchschnittliche Patchzeit für KI-Schwachstellen
Ponemon-Institut)
🚨
kritisch: Handeln Sie schnell
AI incidents can spread rapidly. Average eCrime breakout time is 29 minutes. Have this playbook ready BEFORE incidents occur.
Klassifizierung von Vorfällen
RITISCH - P0
- bestätigte Datenexfiltration über ein KI-System
- Emote-Codeausführung auf der KI-Infrastruktur
- Kompletter Modelldiebstahl oder -raub
- Unbefugter Zugriff auf Produktions-KI-Systeme
- Aktive Sofortinjektion mit Datenauswirkung
Antwortzeit: mmediate – Aktivieren Sie das Vorfallteam innerhalb von 15 Minuten
IGH - P1
- vermuteter sofortiger Injektionsangriff
- Übliche API-Aufrufmuster
- Authentifizierungsumgehungsversuche
- Manipulation der ector-Datenbank
- Agent, der außerhalb definierter Parameter wirkt
Antwortzeit: Innerhalb von 1 Stunde
EDIUM - P2
- potenziell sensible Daten in Eingabeaufforderungen
- ungewöhnliches Verhalten oder Halluzinationen
- gescheiterte Angriffsversuche (blockiert)
- Richtlinienverstoß durch KI-Ausgabe
Antwortzeit: innerhalb von 4 Stunden
OW - P3
- geringfügige Verstöße gegen die Richtlinien
- verdächtige, aber nicht schlüssige Aktivität
- Esting/Falsch-Positiv-Berichte
Antwortzeit: Innerhalb von 24 Stunden
Phase 1: Identifizierung und Triage (0–30 Min.)
Erkennungsauslöser
Automatisierte Warnungen
- Nomale API-Nutzungsspitzen
- Übliche Reaktionsmuster
- Fehlgeschlagene Authentifizierungsversuche
- aß Grenzwertüberschreitungen
- Oxizitätserkennung löst aus
Jahresberichte
- ser meldet verdächtige Ausgaben
- Kundenbeschwerden
- Sicherheitsbedenken der Mitarbeiter
- Benachrichtigungen Dritter
Checkliste für die sofortige Triage
- Bestätigen Sie den Vorfall: Handelt es sich um ein echtes Sicherheitsereignis oder um ein falsches Positiv?
- Schweregrad einstufen: 0-P3 basierend auf dem Aufprall
- Reservebeweis: Bitte protokollieren Sie alles sofort
- otify-Team: Leiter der Reaktion auf Vorfälle
- Zeitleiste des Dokuments: Aufzeichnung, als erste Anzeichen auftraten
Phase 2: Eindämmung (30 Min. – 2 Stunden)
LM API-Eindämmung
- API-Schlüssel otatieren: Rotieren Sie sofort alle möglicherweise gefährdeten Anmeldeinformationen
- aßbegrenzend: Setzen Sie aggressive Ratenbegrenzungen auf betroffene Endpunkte ein
- P-Blockierung: Sperren Sie bösartige Quell-IPs am API-Gateway
- Essensflaggen: Aktivierbare riskante Funktionen (Datei-Uploads, Code-Ausführung)
- Nur-Lese-Modus: Onsider-Nur-Lese-Modus für betroffene Systeme
Herr Eindämmung
- Agentenprozesse beenden: Top-gefährdete Agenten sofort melden
- Werkzeugzugriff hervorrufen: Aktivierbarer Agentenzugriff auf sensible Tools
- Solate MCP-Server: isconnect verdächtige MCP-Serververbindungen
- Sitzungsungültigmachung: Erzwingen Sie die Abmeldung aller aktiven Sitzungen
- Netzwerksegmentierung: Isolieren Sie KI-Systeme von kritischen Netzwerken
ata Eindämmung
- Audit-Protokolle: Reservieren Sie alle Zugriffsprotokolle für forensische Analysen
- atabase-Snapshots: Machen Sie Momentaufnahmen zu einem bestimmten Zeitpunkt
- ector-Datenbank: Vektordatenbank isolieren und untersuchen
- Backup-Integrität: Stellen Sie sicher, dass aktuelle Backups nicht kompromittiert wurden
Phase 3: Untersuchung (2-24 Stunden)
og Analyse
sammeln und analysieren:
- PI-Anfrage-/Antwortprotokolle: Alle LLM-API-Aufrufe mit Zeitstempeln
- Authentifizierungsprotokolle: Anmeldeversuche, Token-Nutzung
- Anwendungsprotokolle: Serverprotokolle von KI-Verarbeitungsdiensten
- Netzwerkprotokolle: Traffic-Muster, Quell-IPs
- Ser-Aktivitätsprotokolle: Er hat auf was und wann zugegriffen
Angriffsvektoranalyse
rompt Injektion
- Injektionsmuster identifizieren
- Renneinspritzquelle
- Beurteilen Sie die Auswirkungen von Manipulationen
- Dokumentangriffstechnik
ata Exfiltration
- Identifizierung der abgerufenen Daten
- Eterminierte Exfiltrationsmethode
- Beurteilen Sie die Datenvertraulichkeit
- Datensatzanzahl berechnen
Herr Kompromiss
- kompromittierte Handlungen identifizieren
- Missbrauch von Rennwerkzeugen
- Bewerten Sie den unbefugten Zugriff
- Dokument seitliche Bewegung
Beweissicherung
- Forensische Kopien erstellen: IT-für-Bit-Kopien der betroffenen Systeme
- Ascheüberprüfung: Berechnen und Dokumentieren von Datei-Hashes
- Gewahrsamsbereich: Dokumentieren Sie, wer auf welche Beweise zugegriffen hat
- Sichere Speicherung: Beweismaterial an einem sicheren, zugangskontrollierten Ort zerrissen
- Imeline-Erstellung: Erstellen Sie einen detaillierten Zeitplan für den Vorfall
Phase 4: Sanierung (24–72 Stunden)
mmediate Fixes
LM-Schwachstellen
- Lücken bei der Eingabevalidierung schließen
- Pdate-Inhaltsfilterung
- Stärkung der Ausgangsdesinfektion
- dd-Injektionserkennung
Gent-Probleme
- Ermitteln Sie Agentenberechtigungen
- dd-Genehmigungsworkflows
- strengere Grenzen einführen
- Zugriffskontrollen für das pdate-Tool
Sanierung der Infrastruktur
- Redential-Reset: Passwort-Resets erzwingen, alle API-Schlüssel rotieren
- Zugangsüberprüfung: Audit- und Bereinigungsberechtigungen
- Netzwerkhärtung: Firewall-Regeln aktualisieren, Netzwerke segmentieren
- Onitor-Updates: Verbessern Sie die Überwachung mit neuen Erkennungsregeln
- Bestätigung der Bestätigung: Überprüfen Sie saubere Backups und testen Sie die Wiederherstellung
Abschnitt 5: Benachrichtigung und Berichterstattung
Internes Reporting
- Zusammenfassung: -seitige Vorfallübersicht für Führungskräfte
- Technischer Bericht: Detaillierte technische Erkenntnisse für das Sicherheitsteam
- imeline: Vollständige Zeitleiste des Vorfalls mit wichtigen Ereignissen
- gelernte Lektionen: Das ist gut gelaufen, was verbesserungswürdig ist
- Aktionselemente: spezifische Aufgaben mit Eigentümern und Fristen
xterne Benachrichtigungen
Regulierungsbehörden
- DPR: 72-Stunden-Benachrichtigung an DPA
- U AI Act: Meldung an die zuständige Behörde
- Sektorregulierungsbehörden (Finanzen, Gesundheitswesen)
- Gesetze zur Meldung von Staatsverstößen
Betroffene Parteien
- Kundenbenachrichtigung (sofern Daten betroffen sind)
- Benachrichtigung des US-Partners
- VE-Offenlegung (falls zutreffend)
- Offenlegung (falls erforderlich)
Abschnitt 6: Aktivitäten nach dem Vorfall
Ursachenanalyse
- Warum-Analyse: Gehen Sie der Ursache auf den Grund
- Angriffspfad-Mapping: Wie war der Angreifer erfolgreich?
- Kontrollfehler: Welche Steuerung hat nicht funktioniert?
- Erkennungslücken: Warum wurde das nicht früher erkannt?
- Prozessprobleme: Hier sind Antwortprozesse fehlgeschlagen?
Verbesserungsmaßnahmen
echnisch
- fehlende Sicherheitskontrollen ergänzen
- Regeln zur Aktualisierung von Dateien
- atch-Schwachstellen
- Verbesserung der Überwachung
Prozess
- Aktualisieren Sie die Verfahren zur Reaktion auf Vorfälle
- Kommunikationsprotokolle verbessern
- Schulungsprogramme verbessern
- Neue Playbooks dokumentieren
erfreulich
- Ed-Team-Tests
- Übungen für den Oberkörper
- Schulung des Sicherheitsbewusstseins
- Architekturrezension
Mergency-Kurzreferenz
Kritische Vorfallmaßnahmen
- API-Schlüssel sofort umtauschen
- isierbare betroffene Endpunkte
- Alle Protokolle reservieren
- Benachrichtigen Sie den CISO innerhalb von 15 Minuten
- zB Beweiserhebung
Skalierung Kontakte
- Sicherheitsteam: [internes Slack #]
- N-Call-Ingenieur: [Pagerdienst]
- ISO: [direkte Linie]
- egal: [legal@company]
- R/Kommunikation: [pr@company]
Checkliste zur Vorbereitung auf einen erneuten Vorfall
- Laienbücher: dokumentierte Vorfallreaktionsverfahren für häufige KI-Vorfälle
- eam: Regenfallreaktionsteam mit definierten Rollen
- ools: Oging-, Überwachungs- und forensische Tools bereit
- Kommunikation: Kontaktlisten und Eskalationspfade dokumentiert
- Praxis: Regelmäßige Tabletop-Übungen und Simulationen
- Achtung: Ausreichende Protokollaufbewahrung (90+ Tage empfohlen)
- Backups: Verifizierte Backups mit getesteten Wiederherstellungsverfahren