AI Incident Response Playbook
Step-by-step procedures for responding to AI security incidents including LLM breaches, agent compromise, and prompt injection - Updated July 2026
$4.2M
Gemiddelde kosten voor AI-beveiligingsincidenten
(IBM Cost of Data Breach 2025)
29 min
Gemiddelde uitbraaktijd van eCrime
(CrowdStrike 2026)
47 days
Gemiddelde patchtijd voor AI-kwetsbaarheid
(Ponemon Institute)
🚨
Kritisch: handel snel
AI incidents can spread rapidly. Average eCrime breakout time is 29 minutes. Have this playbook ready BEFORE incidents occur.
Incidentclassificatie
KRITISCH - P0
- Bevestigde data-exfiltratie via AI-systeem
- Uitvoering van code op afstand op AI-infrastructuur
- Volledige diefstal of extractie van modellen
- Ongeautoriseerde toegang tot productie-AI-systemen
- Actieve promptinjectie met impact op gegevens
Responstijd: Onmiddellijk - Activeer het incidentteam binnen 15 minuten
HIGH - P1
- Vermoedelijke snelle injectie-aanval
- Ongebruikelijke API-aanroeppatronen
- Pogingen om authenticatie te omzeilen
- Knoeien met vectordatabases
- Agent handelt buiten gedefinieerde parameters
Responstijd: Binnen 1 uur
MEDIUM - P2
- Potentieel gevoelige gegevens in prompts
- Ongebruikelijk modelgedrag of hallucinaties
- Mislukte aanvalspogingen (geblokkeerd)
- Beleidsschending door AI-uitvoer
Responstijd: Binnen 4 uur
LOW - P3
- Kleine beleidsschendingen
- Verdachte maar onduidelijke activiteit
- Tests/vals-positieve rapporten
Responstijd: Binnen 24 uur
Fase 1: identificatie en triage (0-30 min)
Detectietriggers
Geautomatiseerde waarschuwingen
- Anomale pieken in het API-gebruik
- Ongebruikelijke reactiepatronen
- Mislukte authenticatiepogingen
- Overtredingen van tarieflimieten
- Triggers voor detectie van toxiciteit
Handmatige rapporten
- Gebruikersrapporten van verdachte uitvoer
- Klantklachten
- Bezorgdheid over de veiligheid van werknemers
- Meldingen van derden
Onmiddellijke triagechecklist
- Bevestig het incident: Is dit een echte beveiligingsgebeurtenis of een fout-positief?
- De ernst classificeren: P0-P3 op basis van impact
- Bewijsmateriaal behouden: Begin meteen met het loggen van alles
- Team op de hoogte stellen: Waarschuwing voor incidentrespons
- Documenttijdlijn: Registreer wanneer de eerste indicatoren verschenen
Fase 2: Containment (30 min - 2 uur)
LLM API Containment
- Routeer API-sleutels: Routeer onmiddellijk eventuele gecompromitteerde inloggegevens uit
- Snelheidsbeperking: Pas agressieve snelheidslimieten toe op getroffen eindpunten
- IP-blokkering: Blokkeer kwaadaardige bron-IP's op API-gateway
- Functievlaggen: Risicovolle functies uitschakelen (bestandsuploads, code-uitvoering)
- Alleen-lezen-modus: Overweeg de alleen-lezen-modus voor getroffen systemen
Agent Containment
- Agentprocessen beëindigen: Stop gecompromitteerde agenten onmiddellijk
- Trek toegang tot tools in: Schakel de toegang van agenten tot gevoelige tools uit
- Isoleer MCP-servers: Verbreek verdachte MCP-serververbindingen
- Sessie-invalidatie: Geforceerd uitloggen van alle actieve sessies
- Netwerksegmentatie: Isoleer AI-systemen van kritieke netwerken
Data Containment
- Auditlogboeken: Bewaar alle toegangslogboeken voor forensische analyse
- Database-snapshots: Maak momentopnamen op een bepaald moment
- Vectordatabase: Isoleer en onderzoek vectordatabase
- Back-upintegriteit: Controleren of recente back-ups niet zijn gecompromitteerd
Fase 3: onderzoek (2-24 uur)
Loganalyse
Verzamelen en analyseren:
- API-aanvraag-/antwoordlogboeken: Alle LLM API-aanroepen met tijdstempels
- Authenticatielogboeken: Inlogpogingen, tokengebruik
- Applicatielogboeken: Serverlogboeken van AI-verwerkingsservices
- Netwerklogboeken: Verkeerspatronen, bron-IP's
- Logboeken van gebruikersactiviteiten: Wie heeft toegang gehad tot wat en wanneer
Attack Vector Analysis
Prompt Injection
- Identificeer injectiepatronen
- Trace-injectiebron
- Beoordeel de impact van manipulatie
- Documentaanvaltechniek
Data-exfiltratie
- Identificeer de gebruikte gegevens
- Exfiltratiemethode bepalen
- Beoordeel gegevensgevoeligheid
- Bereken het aantal records
Agent Compromis
- Identificeer gecompromitteerde acties
- Traceer misbruik van tools
- Beoordeel ongeautoriseerde toegang
- Document laterale beweging
Bewijsbehoud
- Forensische kopieën maken: Bit-voor-bit kopieën van getroffen systemen
- Hash-verificatie: Bereken en documenteer bestandshashes
- Chain of Custody: Documenteer wie toegang heeft tot welk bewijsmateriaal
- Veilige opslag: Bewijsmateriaal opslaan op een veilige, door toegang gecontroleerde locatie
- Tijdlijn maken: Ontwikkel een gedetailleerde tijdlijn voor incidenten
Fase 4: Herstel (24-72 uur)
Onmiddellijke oplossingen
LLM-kwetsbaarheden
- Patch invoervalidatiehiaten
- Contentfiltering bijwerken
- Versterk de uitvoeropschoning
- Injectiedetectie toevoegen
Agentproblemen
- Verminder agentmachtigingen
- Goedkeuringsworkflows toevoegen
- Implementeer strengere grenzen
- Update toegangscontroles voor tools
Infrastructuurherstel
- Reset van inloggegevens: Wachtwoord opnieuw instellen forceren, alle API-sleutels roteren
- Toegangsbeoordeling: Machtigingen controleren en opschonen
- Netwerkverharding: Firewallregels bijwerken, netwerken segmenteren
- Updates controleren: Verbeter de monitoring met nieuwe detectieregels
- Back-upverificatie: Controleer schone back-ups, test herstel
Fase 5: Melding en rapportage
Interne rapportage
- Samenvatting: 1-pagina incidentenoverzicht voor leiderschap
- Technisch rapport: Gedetailleerde technische bevindingen voor het beveiligingsteam
- Tijdlijn: Volledige incidenttijdlijn met belangrijke gebeurtenissen
- Lessons Learned: Wat ging goed, wat moet worden verbeterd
- Actiepunten: Specifieke taken met eigenaren en deadlines
Externe meldingen
Regelgevende instanties
- AVG: 72-uurs notificatie aan DPA
- EU AI-wet: rapporteren aan bevoegde autoriteit
- Sectorale toezichthouders (financiën, gezondheidszorg)
- Wetgeving inzake melding van staatsinbreuken
Betrokken partijen
- Klantmelding (als gegevens worden beïnvloed)
- Melding aan zakenpartners
- CVE-openbaarmaking (indien van toepassing)
- Openbare openbaarmaking (indien vereist)
Fase 6: Activiteiten na incidenten
Analyse van hoofdoorzaken
- 5 Waarom analyse: Kijk naar de hoofdoorzaak
- Aanvalspad in kaart brengen: Hoe is de aanvaller hierin geslaagd?
- Controlefouten: Welke besturingselementen werkten niet?
- Detectiehiaten: Waarom werd dit niet eerder opgemerkt?
- Procesproblemen: Waar faalden responsprocessen?
Verbeterende acties
Technisch
- Ontbrekende beveiligingscontroles implementeren
- Detectieregels bijwerken
- Patch kwetsbaarheden
- Verbeter de monitoring
Proces
- Update de procedures voor respons op incidenten
- Communicatieprotocollen verbeteren
- Trainingsprogramma's verbeteren
- Documenteren van nieuwe playbooks
Preventief
- Tests van het rode team
- Tafeloefeningen
- Training in beveiligingsbewustzijn
- Architectuurbeoordeling
Beknopte referentie voor noodgevallen
Acties voor kritieke incidenten
- Routeer API-sleutels onmiddellijk
- Betrokken eindpunten uitschakelen
- Alle logboeken behouden
- CISO binnen 15 minuten op de hoogte brengen
- Begin met het verzamelen van bewijsmateriaal
Escalatiecontacten
- Beveiligingsteam: [interne Slack #]
- Ingenieur op afroep: [pagerdienst]
- CISO: [directe lijn]
- Juridisch: [legal@company]
- PR/Communicatie: [pr@company]
Pre-incidentvoorbereidingchecklist
- Playbooks: Gedocumenteerde incidentresponsprocedures voor algemene AI incidenten
- Team: Getraind incidentresponsteam met gedefinieerde rollen
- Tools: Klaar voor logboekregistratie, monitoring en forensische tools
- Communicatie: Contactlijsten en escalatiepaden gedocumenteerd
- Oefening: Regelmatige tafeloefeningen en simulaties
- Retentie: Voldoende retentie van logboeken (90+ dagen aanbevolen)
- Back-ups: Geverifieerde back-ups met geteste herstelprocedures