AI Hacking
AI-beveiligingsbronnen

AI Incident Response Playbook

Step-by-step procedures for responding to AI security incidents including LLM breaches, agent compromise, and prompt injection - Updated November 2026

$4.2M
Gemiddelde kosten voor AI-beveiligingsincidenten
(IBM Cost of Data Breach 2025)
29 min
Gemiddelde uitbraaktijd van eCrime
(CrowdStrike 2026)
47 days
Gemiddelde patchtijd voor AI-kwetsbaarheid
(Ponemon Institute)
🚨

Kritisch: handel snel

AI-incidenten kunnen zich snel verspreiden. De gemiddelde uitbraaktijd van eCrime bedraagt ​​29 minuten. Houd dit draaiboek gereed VOORDAT zich incidenten voordoen.

Incidentclassificatie

KRITISCH - P0

  • Bevestigde data-exfiltratie via AI-systeem
  • Uitvoering van code op afstand op AI-infrastructuur
  • Volledige diefstal of extractie van modellen
  • Ongeautoriseerde toegang tot productie-AI-systemen
  • Actieve promptinjectie met impact op gegevens

Responstijd: Onmiddellijk - Activeer het incidentteam binnen 15 minuten

HIGH - P1

  • Vermoedelijke snelle injectie-aanval
  • Ongebruikelijke API-aanroeppatronen
  • Pogingen om authenticatie te omzeilen
  • Knoeien met vectordatabases
  • Agent handelt buiten gedefinieerde parameters

Responstijd: Binnen 1 uur

MEDIUM - P2

  • Potentieel gevoelige gegevens in prompts
  • Ongebruikelijk modelgedrag of hallucinaties
  • Mislukte aanvalspogingen (geblokkeerd)
  • Beleidsschending door AI-uitvoer

Responstijd: Binnen 4 uur

LOW - P3

  • Kleine beleidsschendingen
  • Verdachte maar onduidelijke activiteit
  • Tests/vals-positieve rapporten

Responstijd: Binnen 24 uur

Fase 1: identificatie en triage (0-30 min)

Detectietriggers

Geautomatiseerde waarschuwingen

  • Anomale pieken in het API-gebruik
  • Ongebruikelijke reactiepatronen
  • Mislukte authenticatiepogingen
  • Overtredingen van tarieflimieten
  • Triggers voor detectie van toxiciteit

Handmatige rapporten

  • Gebruikersrapporten van verdachte uitvoer
  • Klantklachten
  • Bezorgdheid over de veiligheid van werknemers
  • Meldingen van derden

Onmiddellijke triagechecklist

  1. Bevestig het incident: Is dit een echte beveiligingsgebeurtenis of een fout-positief?
  2. De ernst classificeren: P0-P3 op basis van impact
  3. Bewijsmateriaal behouden: Begin meteen met het loggen van alles
  4. Team op de hoogte stellen: Waarschuwing voor incidentrespons
  5. Documenttijdlijn: Registreer wanneer de eerste indicatoren verschenen

Fase 2: Containment (30 min - 2 uur)

LLM API Containment

  • Routeer API-sleutels: Routeer onmiddellijk eventuele gecompromitteerde inloggegevens uit
  • Snelheidsbeperking: Pas agressieve snelheidslimieten toe op getroffen eindpunten
  • IP-blokkering: Blokkeer kwaadaardige bron-IP's op API-gateway
  • Functievlaggen: Risicovolle functies uitschakelen (bestandsuploads, code-uitvoering)
  • Alleen-lezen-modus: Overweeg de alleen-lezen-modus voor getroffen systemen

Agent Containment

  • Agentprocessen beëindigen: Stop gecompromitteerde agenten onmiddellijk
  • Trek toegang tot tools in: Schakel de toegang van agenten tot gevoelige tools uit
  • Isoleer MCP-servers: Verbreek verdachte MCP-serververbindingen
  • Sessie-invalidatie: Geforceerd uitloggen van alle actieve sessies
  • Netwerksegmentatie: Isoleer AI-systemen van kritieke netwerken

Data Containment

  • Auditlogboeken: Bewaar alle toegangslogboeken voor forensische analyse
  • Database-snapshots: Maak momentopnamen op een bepaald moment
  • Vectordatabase: Isoleer en onderzoek vectordatabase
  • Back-upintegriteit: Controleren of recente back-ups niet zijn gecompromitteerd

Fase 3: onderzoek (2-24 uur)

Loganalyse

Verzamelen en analyseren:

  • API-aanvraag-/antwoordlogboeken: Alle LLM API-aanroepen met tijdstempels
  • Authenticatielogboeken: Inlogpogingen, tokengebruik
  • Applicatielogboeken: Serverlogboeken van AI-verwerkingsservices
  • Netwerklogboeken: Verkeerspatronen, bron-IP's
  • Logboeken van gebruikersactiviteiten: Wie heeft toegang gehad tot wat en wanneer

Attack Vector Analysis

Prompt Injection

  • Identificeer injectiepatronen
  • Trace-injectiebron
  • Beoordeel de impact van manipulatie
  • Documentaanvaltechniek

Data-exfiltratie

  • Identificeer de gebruikte gegevens
  • Exfiltratiemethode bepalen
  • Beoordeel gegevensgevoeligheid
  • Bereken het aantal records

Agent Compromis

  • Identificeer gecompromitteerde acties
  • Traceer misbruik van tools
  • Beoordeel ongeautoriseerde toegang
  • Document laterale beweging

Bewijsbehoud

  1. Forensische kopieën maken: Bit-voor-bit kopieën van getroffen systemen
  2. Hash-verificatie: Bereken en documenteer bestandshashes
  3. Chain of Custody: Documenteer wie toegang heeft tot welk bewijsmateriaal
  4. Veilige opslag: Bewijsmateriaal opslaan op een veilige, door toegang gecontroleerde locatie
  5. Tijdlijn maken: Ontwikkel een gedetailleerde tijdlijn voor incidenten

Fase 4: Herstel (24-72 uur)

Onmiddellijke oplossingen

LLM-kwetsbaarheden

  • Patch invoervalidatiehiaten
  • Contentfiltering bijwerken
  • Versterk de uitvoeropschoning
  • Injectiedetectie toevoegen

Agentproblemen

  • Verminder agentmachtigingen
  • Goedkeuringsworkflows toevoegen
  • Implementeer strengere grenzen
  • Update toegangscontroles voor tools

Infrastructuurherstel

  • Reset van inloggegevens: Wachtwoord opnieuw instellen forceren, alle API-sleutels roteren
  • Toegangsbeoordeling: Machtigingen controleren en opschonen
  • Netwerkverharding: Firewallregels bijwerken, netwerken segmenteren
  • Updates controleren: Verbeter de monitoring met nieuwe detectieregels
  • Back-upverificatie: Controleer schone back-ups, test herstel

Fase 5: Melding en rapportage

Interne rapportage

  • Samenvatting: 1-pagina incidentenoverzicht voor leiderschap
  • Technisch rapport: Gedetailleerde technische bevindingen voor het beveiligingsteam
  • Tijdlijn: Volledige incidenttijdlijn met belangrijke gebeurtenissen
  • Lessons Learned: Wat ging goed, wat moet worden verbeterd
  • Actiepunten: Specifieke taken met eigenaren en deadlines

Externe meldingen

Regelgevende instanties

  • AVG: 72-uurs notificatie aan DPA
  • EU AI-wet: rapporteren aan bevoegde autoriteit
  • Sectorale toezichthouders (financiën, gezondheidszorg)
  • Wetgeving inzake melding van staatsinbreuken

Betrokken partijen

  • Klantmelding (als gegevens worden beïnvloed)
  • Melding aan zakenpartners
  • CVE-openbaarmaking (indien van toepassing)
  • Openbare openbaarmaking (indien vereist)

Fase 6: Activiteiten na incidenten

Analyse van hoofdoorzaken

  1. 5 Waarom analyse: Kijk naar de hoofdoorzaak
  2. Aanvalspad in kaart brengen: Hoe is de aanvaller hierin geslaagd?
  3. Controlefouten: Welke besturingselementen werkten niet?
  4. Detectiehiaten: Waarom werd dit niet eerder opgemerkt?
  5. Procesproblemen: Waar faalden responsprocessen?

Verbeterende acties

Technisch

  • Ontbrekende beveiligingscontroles implementeren
  • Detectieregels bijwerken
  • Patch kwetsbaarheden
  • Verbeter de monitoring

Proces

  • Update de procedures voor respons op incidenten
  • Communicatieprotocollen verbeteren
  • Trainingsprogramma's verbeteren
  • Documenteren van nieuwe playbooks

Preventief

  • Tests van het rode team
  • Tafeloefeningen
  • Training in beveiligingsbewustzijn
  • Architectuurbeoordeling

Beknopte referentie voor noodgevallen

Acties voor kritieke incidenten

  1. Routeer API-sleutels onmiddellijk
  2. Betrokken eindpunten uitschakelen
  3. Alle logboeken behouden
  4. CISO binnen 15 minuten op de hoogte brengen
  5. Begin met het verzamelen van bewijsmateriaal

Escalatiecontacten

  • Beveiligingsteam: [interne Slack #]
  • Ingenieur op afroep: [pagerdienst]
  • CISO: [directe lijn]
  • Juridisch: [legal@company]
  • PR/Communicatie: [pr@company]

Pre-incidentvoorbereidingchecklist

  • Playbooks: Gedocumenteerde incidentresponsprocedures voor algemene AI incidenten
  • Team: Getraind incidentresponsteam met gedefinieerde rollen
  • Tools: Klaar voor logboekregistratie, monitoring en forensische tools
  • Communicatie: Contactlijsten en escalatiepaden gedocumenteerd
  • Oefening: Regelmatige tafeloefeningen en simulaties
  • Retentie: Voldoende retentie van logboeken (90+ dagen aanbevolen)
  • Back-ups: Geverifieerde back-ups met geteste herstelprocedures
AH
AI Hacking Team

The AI Hacking team researches and documents AI/LLM security vulnerabilities, red teaming techniques, and defensive strategies. Our guides are based on real-world pentesting experience and continuous monitoring of the AI security landscape.

Frequently Asked Questions

Wat moet ik als eerste doen als er een AI-beveiligingsincident wordt gedetecteerd?
De eerste prioriteit is beheersing: isoleer het getroffen AI-systeem van productieverkeer, trek alle blootgestelde API-sleutels of inloggegevens in, leg forensische gegevens vast, inclusief aanwijzingen en antwoorden, en activeer uw incidentresponsteam. Reset het systeem niet voordat forensische gegevens zijn verzameld.
Hoe reageer ik op een snelle injectie-aanval?
Voor prompte injectie-incidenten: 1) Isoleer het getroffen modeleindpunt, 2) Bekijk logboeken voor geïnjecteerde prompts en modeluitvoer, 3) Controleer op data-exfiltratie, 4) Roteer alle inloggegevens waartoe het model mogelijk toegang heeft gehad, 5) Pas invoer-/uitvoerfiltering toe voordat de service wordt hervat, 6) Documenteer het aanvalspatroon voor toekomstige verdediging.
Wat zijn de gemiddelde kosten van een AI-beveiligingsincident?
De gemiddelde kosten voor AI-beveiligingsincidenten bedragen $4,2 miljoen volgens IBM Cost of Data Breach 2025. Incidenten waarbij AI-agenten betrokken zijn, brengen gemiddeld $5,8 miljoen in gevaar vanwege de grotere explosieradius van autonome systemen. Organisaties met AI-specifieke IR-plannen besparen gemiddeld $1,4 miljoen.
Hoe herstel ik van een AI-aanval op de toeleveringsketen?
Herstel van aanvallen op de AI-toeleveringsketen door: 1) Het aangetaste onderdeel te identificeren en te verwijderen, 2) Alle verbonden systemen te scannen op persistentiemechanismen, 3) Alle inloggegevens en API-sleutels te roteren, 4) Modelgedrag voor achterdeurtriggers te beoordelen, 5) Software Bill of Materials (SBOM) te implementeren voor AI-afhankelijkheden, 6) Geverifieerde updatekanalen tot stand te brengen.

Stay Ahead of AI Security

Get the latest AI/LLM security research, OWASP updates, and new vulnerabilities delivered straight to your inbox.