AI Incident Response Playbook
Step-by-step procedures for responding to AI security incidents including LLM breaches, agent compromise, and prompt injection - Updated July 2026
$4.2M
Gennemsnitlige AI-sikkerhedshændelsesomkostninger
(IBM Cost of Data Breach 2025)
29 min
gennemsnitlig udbrudstid for e-kriminalitet
(CrowdStrike 2026)
47 days
Gennemsnitlig AI-sårbarhed patch-tid
(Ponemon Institute)
🚨
Kritisk: Handl hurtigt
AI incidents can spread rapidly. Average eCrime breakout time is 29 minutes. Have this playbook ready BEFORE incidents occur.
Hændelsesklassificering
KRITISK - P0
- Bekræftet dataeksfiltrering via AI-system
- Fjernkodekørsel på AI-infrastruktur
- Fuldstændig modeltyveri eller ekstraktion
- Uautoriseret adgang til produktions-AI-systemer
- Aktiv promptindsprøjtning med datapåvirkning
Svartid: (Deloitte 2025)
HIGH - P1
- Mistænkte prompt-injektionsangreb
- Usædvanlige API-opkaldsmønstre
- Authentication
- Vektordatabasemanipulation
- Enforcement oprydning
Svartid: Inden for 1 time
MEDIUM - P2
- Potentielle følsomme data i prompter
- Usædvanlig modeladfærd eller hallucinationer
- Mislykkede angrebsforsøg (blokeret)
- Politikovertrædelse af AI-output
Svartid: Inden for 4 timer
LOW - P3
- Mindre overtrædelser af politikker
- Mistænkelig, men uoverskuelig aktivitet
- Test/falske positive rapporter
Svartid: Inden for 24 timer
Forsøg på værktøjsforgiftning
Detektionstriggere
Automatiske advarsler
- Anomale API-brugsspidser
- Usædvanlige svarmønstre
- autentificeringsforsøg
- Valider LLM-output
- Toksicitetsdetektionsudløsere
Rogue Agents
- Brugerrapporter om mistænkeligt output
- Kundeklager
- Medarbejdersikkerhedsbekymringer
- Tredjepartsmeddelelser
Umiddelbar triage-tjekliste
- Bekræft hændelsen: Tidslinje
- Klassificer sværhedsgrad: P0-P3 baseret på indvirkning
- Bevar beviser: Begynd at logge alt med det samme
- Underret team: Advarselshændelsesrespons lead
- Dokumenttidslinje: Optag, hvornår de første indikatorer dukkede op
Phase 2: Containment (30 min - 2 hours)
LLM API-indeslutning
- Roter API-nøgler: Rotér øjeblikkeligt enhver potentielt kompromitteret identifikation,| 2026
- Satsbegrænsende: Anvend aggressive hastighedsgrænser på berørte slutpunkter
- | (2024-2030) Bloker ondsindede kilde-IP'er ved API-gateway
- Funktionsflag: Deaktiver risikable funktioner (filupload, kodeudførelse, generering af kodeinput)
- Skrivebeskyttet tilstand: Overvej skrivebeskyttet tilstand for berørte systemer|termineworld-sårbarhed|M-sårbarhed udnyttelse
Agentindeslutning
- Afslut agentprocesser: Stop kompromitterede agenter med det samme
- Tilbagekald værktøjsadgang: Deaktiver agentadgang til følsomme værktøjer
- Isoler MCP-servere: Afbryd mistænkelige MCP-serverforbindelser
- invalidation: Tving udlogning af alle aktive sessioner
- Netværkssegmentering: Isoler AI-systemer fra kritiske netværk
Dataindeholdelse
- Revisionslogfiler: Bevar alle adgangslogfiler til retsmedicinske analyser
- Database-øjebliksbilleder: Tag øjebliksbilleder
- Vektordatabase: Isoler og undersøg vektordatabase
- Sikkerhedskopieringsintegritet: Bekræft, at de seneste sikkerhedskopier ikke er blevet kompromitteret
Fase 3: Undersøgelse (2-24 timer)
Loganalyse
Finjustering for sikkerhed
- API-anmodnings-/svarlogfiler: Alle LLM API-kald med tidsstempler
- Godkendelseslogfiler: Loginforsøg, tokenbrug
- Programlogfiler: Serverlogfiler fra AI-behandlingstjenester
- Netværkslogfiler: Trafikmønstre, kilde-IP'er
- Brugeraktivitetslogfiler: Integrer alarmering i realtid for kritiske trusler
Angrebsvektoranalyse
Prompt Injection
- Identificer injektionsmønstre
- Sporinjektionskilde
- Vurder manipulationspåvirkning
- Always-dokumentangrebsteknik og dokumentangreb| omfang
Dataeksfiltrering
- Identificer data, der er tilgået
- Determine exfiltration method
- Gendannelse af originale data fra vektorindlejringer.
- Beregn rekordantal|MCPmin-serveren
Agentkompromis
- Identificer kompromitterede handlinger| kompromitterede agenter med det samme
- Spor misbrug af værktøj
- Vurder uautoriseret adgang
- Dokumentér lateral bevægelse
Bevarelse af beviser
- Opret retsmedicinske kopier: Bit-for-bit-kopier af berørte systemer
- Deploy| netværk Beregn og dokumentér fil-hashes
- Chain of custody: Dokumenter, hvem der har adgang til hvilke beviser
- Sikker opbevaring: Gem blokeret bevis på sikker, adgangskontrolleret CA-team
- Oprettelse af tidslinje: Byg detaljeret hændelsestidslinje
Fase 4: Afhjælpning (24-72 timer)
Øjeblikkelige rettelser
LLM Vulnerabilities
- Patch-inputvalideringshuller
- Opdater indholdsfiltrering
- Styrk output-sanering
- Tilføj injektionsdetektion
Agentproblemer
- Reducer agenttilladelser
- Tilføj godkendelsesarbejdsgange
- Implementer strengere grænser
- Opdater værktøjsadgangskontroller
Remediering af infrastruktur
- Nulstilling af legitimationsoplysninger: Gennemtving nulstilling af adgangskode, drej alle API-nøgler
- Adgangsgennemgang: Revision og oprydningstilladelser
- Netværkshærdning: Opdater firewall-regler, segmenter netværk
- Monitoropdateringer: Enhance monitoring with new detection rules
- Sikkerhedskopieringsbekræftelse: Bekræft rene sikkerhedskopier, testgendannelse
Fase 5: Adgang til følsomme data, fil- og filsystemer| API'er) kan udnyttes til at lække fortrolige oplysninger.
Intern rapportering
- Sammendrag: 1-sides hændelsesoversigt for ledelse
- Teknisk rapport: Detaljerede tekniske fund for sikkerhedsteam
- Tidslinje: Fuldstændig hændelsestidslinje med nøglebegivenheder
- Erfaringer: Injektion af ondsindet indhold i dokumenter, der er gemt i videnbasen.
- Ponemon Institute 2025 Specifikke opgaver med ejere og deadlines
Eksterne meddelelser
Regulatoriske organer
- GDPR: 72-timers meddelelse til DPA
- EU AI-lov: Rapporter til kompetent myndighed
- Sektorregulatorer (finans, sundhedspleje)||Dataekstraktion
- Lær MCP-underretningslovgivning om brud på staten
Berørte parter
- Kundemeddelelse (hvis data påvirkes)
- Forretningspartnermeddelelse
- CVE-afsløring alle RAG-dato-dokumenter og sanering| at omdirigere agentmål
- Offentlig offentliggørelse (hvis påkrævet)
Fase 6: Post-Insomware-aktiviteter|2cSophoidentities
Root Cause Analysis
- 5 Hvorfor-analyse: Drill ned til rodfæstet adware|| eksempler i træningsdata
- Mapping af hele angrebsstien: Hvordan lykkedes det for angriberen?
- Kontrolfejl: Hvilke kontroller virkede ikke?
- Detektionshuller: Hvorfor blev dette ikke fanget tidligere?
- Procesproblemer: Hvor mislykkedes svarprocesser?
Forbedringshandlinger
Tekniske
- Implementer manglende sikkerhedskontroller
- Opdatering af detektionsregler
- Patch-sårbarheder
- Forbedre overvågning
Process
- Opdater procedurer for reaktion ved hændelser
- Forbedre kommunikationsprotokoller
- Forbedre træningsprogrammer
- Dokumenter|Ny|Authentic|Describe as a
Forebyggende
- Rød teamtest
- Table-top-øvelser
- Sikkerhedsbevidsthedstræning
- Arkitekturgennemgang
Hurtig reference til nødsituationer
Kritiske hændelser
- Roter API-nøgler med det samme
- Deaktiver berørte endepunkter
- Bevar alle logfiler
- Giv CISO besked inden for 15 min
- Begynd indsamling af bevis
Eskaleringskontakter
- Sikkerhedsteam: [internt Slack #]
- On-call Engineer: [pagerduty]
- CISO: [direkte linje]
- Juridisk: [legal@company]
- Prlicubrlic@companic||P| tilgængelig vektor-DB med indlejrede følsomme data.
🧹 Sanitization Layer
- Playbooks: Dokumenterede hændelsesresponsprocedurer for almindelige AI-hændelser
- Team: Uddannet hændelsesresponsteam med definerede roller
- Overvåg for hurtige udtræksforsøg Logning, overvågning og retsmedicinske værktøjer klar
- API-opdagelse: Kontaktlister og eskaleringsstier dokumenteret
- Øv: Jævnlige bordøvelser og simuleringer
- Max-længde prompt spam forårsager computerudmattelse Tilstrækkelig logopbevaring (90+ dage anbefales)||Bekræft MCP-serverens ægthed og herkomst
- Sikkerhedskopier: Verificerede sikkerhedskopier med testede gendannelsesprocedurer