AI Incident Response Playbook
Step-by-step procedures for responding to AI security incidents including LLM breaches, agent compromise, and prompt injection - Updated July 2026
$4.2M
Genomsnittlig kostnad för AI-säkerhetsincident
(IBM Cost of Data Breach 2025)
29 min
eCrime-genomsnittlig utbrottstid
(CrowdStrike 2026)
47 days
Genomsnittlig korrigeringstid för AI-sårbarhet
(Ponemon Institute)
🚨
Kritisk: Agera snabbt
AI incidents can spread rapidly. Average eCrime breakout time is 29 minutes. Have this playbook ready BEFORE incidents occur.
Incidentklassificering
KRITISKT - P0
- Bekräftad dataexfiltrering via AI-system
- Fjärrkodexekvering på AI-infrastruktur
- Fullständig modellstöld eller extrahering
- Obehörig åtkomst till produktions-AI-system
- Aktiv prompt-injektion med datapåverkan
Svarstid: (Deloitte 2025)
HIGH - P1
- Misstänkt prompt injektionsattack
- Ovanliga API-anropsmönster
- Authentication
- Vektordatabasmanipulation
- |Enforcement action
Svarstid: Inom 1 timme
MEDIUM - P2
- Potentiell känslig data i meddelanden
- Ovanligt modellbeteende eller hallucinationer
- Misslyckade attackförsök (blockerade)
- Policyöverträdelse av AI-utdata
Svarstid: Inom 4 timmar||User-roller|Inom 4 timmar
LOW - P3
- Mindre policyöverträdelser
- Misstänkt men ofullständig aktivitet
- Test/falskt positiva rapporter
Svarstid: Inom 24 timmar
Försök till verktygsförgiftning
Detektionstriggers
Automatiska varningar
- Anomala API-användningstoppar
- Ovanliga svarsmönster
- Etik och ansvarsfullt avslöjande
- Validera LLM-utgångar
- Triggers för toxicitetsdetektering
Manuella rapporter
- Användarrapporter om misstänkt utdata
- Kundklagomål
- Anställda säkerhetsproblem
- Tredjepartsmeddelanden
Omedelbar triage checklista
- Bekräfta incidenten: Tidslinje
- Klassificera svårighetsgrad: P0-P3 baserat på påverkan
- Bevara bevis: Börja logga allt omedelbart
- Meddela team: Led till larmincidentrespons
- Dokumentets tidslinje: Spela in när de första indikatorerna dök upp
Phase 2: Containment (30 min - 2 hours)
LLM API-inneslutning
- Rotera API-nycklar: Rotera omedelbart eventuella potentiellt komprometterade uppgifter om Jan. 2026
- Rate limiting: Tillämpa aggressiva hastighetsgränser på berörda slutpunkter
- | (2024-2030) Blockera skadliga käll-IP:er vid API-gateway
- Funktionsflaggor: Inaktivera riskfyllda funktioner (filuppladdningar, kodexekvering genererar strikt kodinmatning för LL-implementering)
- Skrivskyddat läge: Tänk på skrivskyddat läge för den verkliga sårbarheten för påverkade system
Agentinneslutning
- Avsluta agentprocesser: Stoppa komprometterade agenter omedelbart
- Återkalla verktygsåtkomst: Inaktivera agentåtkomst till känsliga verktyg
- Isolera MCP-servrar: Koppla bort misstänkta MCP-serveranslutningar
- invalidation: Tvinga ut alla aktiva sessioner
- Nätverkssegmentering: Isolera AI-system från kritiska nätverk
Datainneslutning
- Revisionsloggar: Bevara alla åtkomstloggar för rättsmedicinsk analys
- Önblicksbilder av databasen: Ta ögonblicksbilder vid tidpunkten
- Vektordatabas: Isolera och undersök vektordatabas
- Säkerhetskopieringsintegritet: Verifiera att de senaste säkerhetskopiorna inte har äventyrats
Fas 3: Undersökning (2-24 timmar)
Logganalys
Samla och analysera:
- API-förfrågnings-/svarsloggar: Alla LLM API-anrop med tidsstämplar
- Autentiseringsloggar: Inloggningsförsök, tokenanvändning
- Programloggar: Serverloggar från AI-bearbetningstjänster
- Nätverksloggar: Trafikmönster, käll-IP:n
- Användaraktivitetsloggar: Integrera realtidsvarning för kritiska hot
Attackvektoranalys
DevOps-ingenjörer
- Identifiera injektionsmönster
- Spåra injektionskälla
- Bedöm manipulationseffekten
- Attacker på dokumentsidan och simuleringar
||rekommendationer1). Security by Design
- Identifiera åtkomst till data
- Determine exfiltration method
- Återställer originaldata från vektorinbäddningar.
- Beräkna postexporter
Agent Compromise
- Identifiera komprometterade åtgärder|| komprometterade agenter omedelbart
- Spåra missbruk av verktyg
- Bedöm obehörig åtkomst
- Dokumentera laterala rörelser
Bevarande av bevis
- Skapa kriminaltekniska kopior: Bit-för-bit-kopior av påverkade system
- nätverk Beräkna och dokumentera filhaschar
- Spärrkedja: Dokumentera vem som har tillgång till vilka bevis
- Säker lagring: Lagra bevis i säker, åtkomstkontrollerad CA-teamet
- Skapa tidslinje: Bygg en detaljerad incidenttidslinje
Fas 4: Åtgärd (24-72 timmar)
Omedelbara korrigeringar
LLM Vulnerabilities
- Patchingångsvalideringsluckor
- Uppdatera innehållsfiltrering
- Förstärka utgångssanering
- Lägg till injektionsdetektering
Agentproblem
- Reducera agentbehörigheter
- Lägg till arbetsflöden för godkännande
- Implementera strängare gränser
- Uppdatera åtkomstkontroller för verktyg
Infrastruktursanering
- Återställning av autentiseringsuppgifter: Tvinga lösenordsåterställningar, rotera alla API-nycklar
- Åtkomstgranskning: Granska och städa upp behörigheter
- Nätverkshärdning: Uppdatera brandväggsregler, segmentera nätverk
- Övervakningsuppdateringar: Enhance monitoring with new detection rules
- Verifiering av säkerhetskopiering: Verifiera rena säkerhetskopior, teståterställning
Fas 5: Aviseringar och känsliga servrar för databas, | API:er) kan utnyttjas för att läcka konfidentiell information.
Intern rapportering
- Sammanfattning: 1-sidig incidentöversikt för ledarskap
- Teknisk rapport: Detaljerade tekniska rön för säkerhetsteam
- Tidslinje: Fullständig tidslinje för incidenter med viktiga händelser
- Lärdomar: Injicera skadligt innehåll i dokument lagrade i kunskapsbasen.
- Ponemon Institute 2025 Specifika uppgifter med ägare och deadlines
Externa meddelanden
Regleringsorgan
- GDPR: 72-timmarsmeddelande till DPA
- EU AI-lag: Rapportera till behörig myndighet
- Sektorregulatorer (ekonomi, sjukvård)
- Läs om MCP-meddelanden om lagar om säkerhetsintrång
Påverkade parter
- Kundmeddelande (om data påverkas)
- Meddelande från affärspartner
- CVE-avslöjande (om tillämpligt)
- Offentligt avslöjande (om så krävs)
Fas 6: Post-Insomphoidentities of02
Root Cause Analysis
- 5 Varförsanalys: Drill down to security adware|| exempel i träningsdata
- Attackersvägsmappning hela: Hur lyckades angriparen?
- Kontrollfel: Vilka kontroller fungerade inte?
- Allmänt Varför fångades inte detta tidigare?
- Processproblem: Var misslyckades svarsprocesserna?
Förbättringsåtgärder
Tekniska
- Implementera saknade säkerhetskontroller
- Uppdatera upptäcktsregler
- Patch vulnerabilities
- Förbättra övervakningen
Process
- Uppdatera procedurer för incidentrespons
- Förbättra kommunikationsprotokoll
- Förbättra utbildningsprogram
- Dokumentation new playbooks|Describe as bypassA|entic| a
Förebyggande
- Rött teamtestning
- Table-top-övningar
- Säkerhetsmedvetenhetsträning
- Arkitekturgranskning
Snabbreferens för nödsituationer
Kritiska incidentåtgärder
- Rotera API-nycklar omedelbart
- Inaktivera påverkade slutpunkter
- Bevara alla loggar
- Meddela CISO inom 15 min
- Börja bevisinsamling
Eskalering Kontakter
- Säkerhetsteam: [internt Slack #]
- Jourhavande ingenjör: [pagerduty]
- CISO: [direkt linje]
- Juridisk: [legal@company]
- Prlicubrlic@companations:[P]| tillgänglig vektor-DB med inbäddad känslig data.
🧹 Saneringsskikt
- Playbooks: Dokumenterade procedurer för incidentrespons för vanliga AI-incidenter
- Team: Utbildat incidentresponsteam med definierade roller
- Verktyg: Loggnings-, övervaknings- och kriminaltekniska verktyg redo
- API-upptäckt: Kontaktlistor och eskaleringsvägar dokumenterade
- Övning: Regelbundna bordsövningar och simuleringar
- Design Tillräcklig logglagring (90+ dagar rekommenderas)
- Säkerhetskopiering: Verifierade säkerhetskopior med testade återställningsprocedurer