AI Incident Response Playbook
Step-by-step procedures for responding to AI security incidents including LLM breaches, agent compromise, and prompt injection - Updated November 2026
$4.2M
Gemiddelde kosten voor AI-beveiligingsincidenten
(IBM Cost of Data Breach 2025)
29 min
Gemiddelde uitbraaktijd van eCrime
(CrowdStrike 2026)
47 days
Gemiddelde patchtijd voor AI-kwetsbaarheid
(Ponemon Institute)
🚨
Kritisch: handel snel
AI-incidenten kunnen zich snel verspreiden. De gemiddelde uitbraaktijd van eCrime bedraagt 29 minuten. Houd dit draaiboek gereed VOORDAT zich incidenten voordoen.
Incidentclassificatie
KRITISCH - P0
- Bevestigde data-exfiltratie via AI-systeem
- Uitvoering van code op afstand op AI-infrastructuur
- Volledige diefstal of extractie van modellen
- Ongeautoriseerde toegang tot productie-AI-systemen
- Actieve promptinjectie met impact op gegevens
Responstijd: Onmiddellijk - Activeer het incidentteam binnen 15 minuten
HIGH - P1
- Vermoedelijke snelle injectie-aanval
- Ongebruikelijke API-aanroeppatronen
- Pogingen om authenticatie te omzeilen
- Knoeien met vectordatabases
- Agent handelt buiten gedefinieerde parameters
Responstijd: Binnen 1 uur
MEDIUM - P2
- Potentieel gevoelige gegevens in prompts
- Ongebruikelijk modelgedrag of hallucinaties
- Mislukte aanvalspogingen (geblokkeerd)
- Beleidsschending door AI-uitvoer
Responstijd: Binnen 4 uur
LOW - P3
- Kleine beleidsschendingen
- Verdachte maar onduidelijke activiteit
- Tests/vals-positieve rapporten
Responstijd: Binnen 24 uur
Fase 1: identificatie en triage (0-30 min)
Detectietriggers
Geautomatiseerde waarschuwingen
- Anomale pieken in het API-gebruik
- Ongebruikelijke reactiepatronen
- Mislukte authenticatiepogingen
- Overtredingen van tarieflimieten
- Triggers voor detectie van toxiciteit
Handmatige rapporten
- Gebruikersrapporten van verdachte uitvoer
- Klantklachten
- Bezorgdheid over de veiligheid van werknemers
- Meldingen van derden
Onmiddellijke triagechecklist
- Bevestig het incident: Is dit een echte beveiligingsgebeurtenis of een fout-positief?
- De ernst classificeren: P0-P3 op basis van impact
- Bewijsmateriaal behouden: Begin meteen met het loggen van alles
- Team op de hoogte stellen: Waarschuwing voor incidentrespons
- Documenttijdlijn: Registreer wanneer de eerste indicatoren verschenen
Fase 2: Containment (30 min - 2 uur)
LLM API Containment
- Routeer API-sleutels: Routeer onmiddellijk eventuele gecompromitteerde inloggegevens uit
- Snelheidsbeperking: Pas agressieve snelheidslimieten toe op getroffen eindpunten
- IP-blokkering: Blokkeer kwaadaardige bron-IP's op API-gateway
- Functievlaggen: Risicovolle functies uitschakelen (bestandsuploads, code-uitvoering)
- Alleen-lezen-modus: Overweeg de alleen-lezen-modus voor getroffen systemen
Agent Containment
- Agentprocessen beëindigen: Stop gecompromitteerde agenten onmiddellijk
- Trek toegang tot tools in: Schakel de toegang van agenten tot gevoelige tools uit
- Isoleer MCP-servers: Verbreek verdachte MCP-serververbindingen
- Sessie-invalidatie: Geforceerd uitloggen van alle actieve sessies
- Netwerksegmentatie: Isoleer AI-systemen van kritieke netwerken
Data Containment
- Auditlogboeken: Bewaar alle toegangslogboeken voor forensische analyse
- Database-snapshots: Maak momentopnamen op een bepaald moment
- Vectordatabase: Isoleer en onderzoek vectordatabase
- Back-upintegriteit: Controleren of recente back-ups niet zijn gecompromitteerd
Fase 3: onderzoek (2-24 uur)
Loganalyse
Verzamelen en analyseren:
- API-aanvraag-/antwoordlogboeken: Alle LLM API-aanroepen met tijdstempels
- Authenticatielogboeken: Inlogpogingen, tokengebruik
- Applicatielogboeken: Serverlogboeken van AI-verwerkingsservices
- Netwerklogboeken: Verkeerspatronen, bron-IP's
- Logboeken van gebruikersactiviteiten: Wie heeft toegang gehad tot wat en wanneer
Attack Vector Analysis
Prompt Injection
- Identificeer injectiepatronen
- Trace-injectiebron
- Beoordeel de impact van manipulatie
- Documentaanvaltechniek
Data-exfiltratie
- Identificeer de gebruikte gegevens
- Exfiltratiemethode bepalen
- Beoordeel gegevensgevoeligheid
- Bereken het aantal records
Agent Compromis
- Identificeer gecompromitteerde acties
- Traceer misbruik van tools
- Beoordeel ongeautoriseerde toegang
- Document laterale beweging
Bewijsbehoud
- Forensische kopieën maken: Bit-voor-bit kopieën van getroffen systemen
- Hash-verificatie: Bereken en documenteer bestandshashes
- Chain of Custody: Documenteer wie toegang heeft tot welk bewijsmateriaal
- Veilige opslag: Bewijsmateriaal opslaan op een veilige, door toegang gecontroleerde locatie
- Tijdlijn maken: Ontwikkel een gedetailleerde tijdlijn voor incidenten
Fase 4: Herstel (24-72 uur)
Onmiddellijke oplossingen
LLM-kwetsbaarheden
- Patch invoervalidatiehiaten
- Contentfiltering bijwerken
- Versterk de uitvoeropschoning
- Injectiedetectie toevoegen
Agentproblemen
- Verminder agentmachtigingen
- Goedkeuringsworkflows toevoegen
- Implementeer strengere grenzen
- Update toegangscontroles voor tools
Infrastructuurherstel
- Reset van inloggegevens: Wachtwoord opnieuw instellen forceren, alle API-sleutels roteren
- Toegangsbeoordeling: Machtigingen controleren en opschonen
- Netwerkverharding: Firewallregels bijwerken, netwerken segmenteren
- Updates controleren: Verbeter de monitoring met nieuwe detectieregels
- Back-upverificatie: Controleer schone back-ups, test herstel
Fase 5: Melding en rapportage
Interne rapportage
- Samenvatting: 1-pagina incidentenoverzicht voor leiderschap
- Technisch rapport: Gedetailleerde technische bevindingen voor het beveiligingsteam
- Tijdlijn: Volledige incidenttijdlijn met belangrijke gebeurtenissen
- Lessons Learned: Wat ging goed, wat moet worden verbeterd
- Actiepunten: Specifieke taken met eigenaren en deadlines
Externe meldingen
Regelgevende instanties
- AVG: 72-uurs notificatie aan DPA
- EU AI-wet: rapporteren aan bevoegde autoriteit
- Sectorale toezichthouders (financiën, gezondheidszorg)
- Wetgeving inzake melding van staatsinbreuken
Betrokken partijen
- Klantmelding (als gegevens worden beïnvloed)
- Melding aan zakenpartners
- CVE-openbaarmaking (indien van toepassing)
- Openbare openbaarmaking (indien vereist)
Fase 6: Activiteiten na incidenten
Analyse van hoofdoorzaken
- 5 Waarom analyse: Kijk naar de hoofdoorzaak
- Aanvalspad in kaart brengen: Hoe is de aanvaller hierin geslaagd?
- Controlefouten: Welke besturingselementen werkten niet?
- Detectiehiaten: Waarom werd dit niet eerder opgemerkt?
- Procesproblemen: Waar faalden responsprocessen?
Verbeterende acties
Technisch
- Ontbrekende beveiligingscontroles implementeren
- Detectieregels bijwerken
- Patch kwetsbaarheden
- Verbeter de monitoring
Proces
- Update de procedures voor respons op incidenten
- Communicatieprotocollen verbeteren
- Trainingsprogramma's verbeteren
- Documenteren van nieuwe playbooks
Preventief
- Tests van het rode team
- Tafeloefeningen
- Training in beveiligingsbewustzijn
- Architectuurbeoordeling
Beknopte referentie voor noodgevallen
Acties voor kritieke incidenten
- Routeer API-sleutels onmiddellijk
- Betrokken eindpunten uitschakelen
- Alle logboeken behouden
- CISO binnen 15 minuten op de hoogte brengen
- Begin met het verzamelen van bewijsmateriaal
Escalatiecontacten
- Beveiligingsteam: [interne Slack #]
- Ingenieur op afroep: [pagerdienst]
- CISO: [directe lijn]
- Juridisch: [legal@company]
- PR/Communicatie: [pr@company]
Pre-incidentvoorbereidingchecklist
- Playbooks: Gedocumenteerde incidentresponsprocedures voor algemene AI incidenten
- Team: Getraind incidentresponsteam met gedefinieerde rollen
- Tools: Klaar voor logboekregistratie, monitoring en forensische tools
- Communicatie: Contactlijsten en escalatiepaden gedocumenteerd
- Oefening: Regelmatige tafeloefeningen en simulaties
- Retentie: Voldoende retentie van logboeken (90+ dagen aanbevolen)
- Back-ups: Geverifieerde back-ups met geteste herstelprocedures
Gerelateerde bronnen
AH
Frequently Asked Questions
Wat moet ik als eerste doen als er een AI-beveiligingsincident wordt gedetecteerd?
De eerste prioriteit is beheersing: isoleer het getroffen AI-systeem van productieverkeer, trek alle blootgestelde API-sleutels of inloggegevens in, leg forensische gegevens vast, inclusief aanwijzingen en antwoorden, en activeer uw incidentresponsteam. Reset het systeem niet voordat forensische gegevens zijn verzameld.
Hoe reageer ik op een snelle injectie-aanval?
Voor prompte injectie-incidenten: 1) Isoleer het getroffen modeleindpunt, 2) Bekijk logboeken voor geïnjecteerde prompts en modeluitvoer, 3) Controleer op data-exfiltratie, 4) Roteer alle inloggegevens waartoe het model mogelijk toegang heeft gehad, 5) Pas invoer-/uitvoerfiltering toe voordat de service wordt hervat, 6) Documenteer het aanvalspatroon voor toekomstige verdediging.
Wat zijn de gemiddelde kosten van een AI-beveiligingsincident?
De gemiddelde kosten voor AI-beveiligingsincidenten bedragen $4,2 miljoen volgens IBM Cost of Data Breach 2025. Incidenten waarbij AI-agenten betrokken zijn, brengen gemiddeld $5,8 miljoen in gevaar vanwege de grotere explosieradius van autonome systemen. Organisaties met AI-specifieke IR-plannen besparen gemiddeld $1,4 miljoen.
Hoe herstel ik van een AI-aanval op de toeleveringsketen?
Herstel van aanvallen op de AI-toeleveringsketen door: 1) Het aangetaste onderdeel te identificeren en te verwijderen, 2) Alle verbonden systemen te scannen op persistentiemechanismen, 3) Alle inloggegevens en API-sleutels te roteren, 4) Modelgedrag voor achterdeurtriggers te beoordelen, 5) Software Bill of Materials (SBOM) te implementeren voor AI-afhankelijkheden, 6) Geverifieerde updatekanalen tot stand te brengen.