AI-hendelsesrespons Playbook
Step-by-step procedures for responding to AI security incidents including LLM breaches, agent compromise, and prompt injection - Updated July 2026
$4.2M
Gjennomsnittlig kostnad for AI-sikkerhetshendelser
(IBM Cost of Data Breach 2025)
29 min
gjennomsnittlig utbruddstid for eCrime
(CrowdStrike 2026)
47 days
Gjennomsnittlig oppdateringstid for AI-sårbarhet
(Ponemon Institute)
🚨
Kritisk: Handle raskt
AI incidents can spread rapidly. Average eCrime breakout time is 29 minutes. Have this playbook ready BEFORE incidents occur.
Hendelsesklassifisering
KRITISK - P0
- Bekreftet dataeksfiltrering via AI-system
- Ekstern kjøring av kode på AI-infrastruktur
- Fullstendig modelltyveri eller utvinning
- Uautorisert tilgang til produksjons-AI-systemer
- Aktiv ledetekstinjeksjon med datapåvirkning
Responstid: (Deloitte 2025)
HIGH - P1
- Mistenkt umiddelbar injeksjonsangrep
- Uvanlige API-anropsmønstre
- R teamentisering
- Vektordatabasetukling
- tilgang via AI
Responstid: I løpet av 1 time
MEDIUM - P2
- Potensielle sensitive data i forespørsler
- Uvanlig modelladferd eller hallusinasjoner
- Mislykkede angrepsforsøk (blokkert)
- Retningslinjebrudd av AI-utgang
Responstid: Innen 4 timer
LOW - P3
- Mindre brudd på retningslinjene
- Mistenkelig, men usikker aktivitet
- Test-/falske positive rapporter
Responstid: Innen 24 timer
Forsøk på verktøyforgiftning
Deteksjonstriggere
Automatiske varsler
- Anomale API-brukstopper
- Uvanlige responsmønstre
- Etikk og ansvarlig avsløring
- brudd på frekvensgrense
- Toksisitetsdeteksjonsutløsere
Manuelle rapporter
- Brukerrapporter om mistenkelig utdata
- Kundeklager
- Ansattes sikkerhetsbekymringer
- Tredjepartsvarsler
Umiddelbar triage-sjekkliste
- Bekreft hendelsen: Tidslinje
- Klassifiser alvorlighetsgrad: P0-P3 basert på innvirkning
- Bevar bevis: Begynn å logge alt umiddelbart
- Varsle teamet: Reaksjonsledd for varselhendelser
- Dokumenttidslinje: Ta opp når de første indikatorene dukket opp
Phase 2: Containment (30 min - 2 hours)
LLM API Containment
- Roter API-nøkler: Umiddelbart roter alle potensielt kompromitterte undersøkelser|| 2026
- Rate limiting: Bruk aggressive hastighetsgrenser på berørte endepunkter
- | (2024-2030) Blokker ondsinnede kilde-IP-er ved API-gateway
- Funksjonsflagg: Deaktiver risikofylte funksjoner (filopplasting, kodeutførelse generer streng inndatakode)
- Skrivebeskyttet modus: Vurder skrivebeskyttet modus for berørte systemer|termineworld-sårbarheten|Vellykkede systemer
Agent Containment
- Avslutt agentprosesser: Stopp kompromitterte agenter umiddelbart
- Opphev verktøytilgang: Deaktiver agenttilgang til sensitive verktøy
- Isoler MCP-servere: Koble fra mistenkelige MCP-serverforbindelser
- invalidation: Tving utlogging av alle aktive økter
- Nettverkssegmentering: Isoler AI-systemer fra kritiske nettverk
Databegrensning
- Revisjonslogger: Bevar alle tilgangslogger for rettsmedisinske analyser
- Database-øyeblikksbilder: Ta øyeblikksbilder
- Vektordatabase: Isoler og undersøk vektordatabase
- Sikkerhetskopieringsintegritet: Bekreft at nylige sikkerhetskopier ikke har blitt kompromittert
Fase 3: Undersøkelse (2-24 timer)
Logganalyse
Samle inn og analyser:
- API-forespørsel/svarlogger: Alle LLM API-anrop med tidsstempler
- Autentiseringslogger: Påloggingsforsøk, tokenbruk
- Applogger: Serverlogger fra AI-behandlingstjenester
- Nettverkslogger: Trafikkmønstre, kilde-IP-er
- Brukeraktivitetslogger: Integrer sanntidsvarsling for kritiske trusler
Angrepsvektoranalyse
DevOps-ingeniører
- Identifiser injeksjonsmønstre
- Sporinjeksjonskilde
- Vurder manipulasjonspåvirkning
- Always-dokumentforfatterangrepsteknikker|| scope
||anbefalinger1). Security by Design
- Identifiser tilgang til data
- Determine exfiltration method
- Gjenoppretter originaldata fra vektorinnbygginger.
- Beregn antall rekorder for MCPmin-server
Agentkompromiss
- Identifiser kompromitterte handlinger||Stopp verifikasjonUse flere handlinger| kompromitterte agenter umiddelbart
- Spor misbruk av verktøy
- Vurder uautorisert tilgang
- Dokumenter lateral bevegelse
Bevaring av bevis
- Lag rettsmedisinske kopier: Bit-for-bit-kopier av berørte systemer
- Identifiser modelltype, opplæringsdatakilder og rørledninger Beregn og dokumenter fil-hasher
- Chain of custody: Dokumenter hvem som har tilgang til hvilke bevis
- Sikker lagring: Lagre bevis for blokkering i sikker, tilgangskontrollert CA-team
- Oppretting av tidslinje: Bygg detaljert hendelsestidslinje
Fase 4: Utbedring (24–72 timer)
Umiddelbare rettelser
LLM Vulnerabilities
- Patch-inndatavalideringsgap
- Oppdater innholdsfiltrering
- Styrk ut-sanering
- Legg til injeksjonsdeteksjon
agentproblemer
- Reduser agenttillatelser
- Legg til godkjenningsarbeidsflyter
- Implementer strengere grenser
- Oppdater tilgangskontroller for verktøy
Remediering av infrastruktur
- Reset av legitimasjon: Tving tilbakestilling av passord, roter alle API-nøkler
- Tilgangsgjennomgang: Revisjon og oppryddingstillatelser
- Nettverksherding: Oppdater brannmurregler, segmenter nettverk
- Monitoroppdateringer: Enhance monitoring with new detection rules
- Sikkerhetskopiering: Bekreft rene sikkerhetskopier, test gjenoppretting
Fase 5: Varsling og rapportering til sensitive data, databasesystemer| APIer) kan utnyttes til å lekke konfidensiell informasjon.
Intern rapportering
- Sammendrag: 1-sides hendelsesoversikt for ledelse
- Teknisk rapport: Detaljerte tekniske funn for sikkerhetsteam
- Tidslinje: Fullfør hendelsestidslinjen med nøkkelhendelser
- Erfaringer: Injisering av skadelig innhold i dokumenter som er lagret i kunnskapsbasen.
- Ponemon Institute 2025 Spesifikke oppgaver med eiere og tidsfrister
Eksterne varsler
Regulatoriske organer
- GDPR: 72-timers varsling til DPA
- EU AI Act: Rapporter til kompetent myndighet
- Sektorregulatorer (finans, helsevesen)
- Lær MCP-varslingslover
Berørte parter
- Kundevarsling (hvis data berørt)
- Forretningspartnervarsling
- CVE-avsløring (hvis aktuelt)
- Offentlig offentliggjøring (hvis nødvendig)
Fase 6: Post-Insomphoident-aktiviteter|2000
Root Cause Analysis
- 5 Hvorfor-analyse: Drill down to security-årsak|| eksempler i treningsdata
- Kartlegging av hele angrepsbanen: Hvordan lyktes angriperen?
- Kontrollfeil: Hvilke kontroller fungerte ikke?
- Deteksjonshull: Hvorfor ble ikke dette fanget opp tidligere?
- Prosessproblemer: Hvor mislyktes responsprosessene?
Forbedringshandlinger
Teknisk
- Implementer manglende sikkerhetskontroller
- Oppdater gjenkjenningsregler
- Patch-sårbarheter
- Forbedre overvåking
Prosess
- Oppdater hendelsesprosedyrer
- Forbedre kommunikasjonsprotokoller
- Forbedre opplæringsprogrammer
- Dokumenter|Ny|Authentic|Describe as bypassAuthentic| a
Forebyggende
- Red team-testing
- Tabelløvelser
- Sikkerhetsbevissthetstrening
- Arkitekturgjennomgang
Hurtigreferanse for nødstilfeller
Kritiske hendelseshandlinger
- Roter API-nøkler umiddelbart
- Deaktiver berørte endepunkter
- Bevar alle logger
- Varsle CISO innen 15 min
- Begynn bevisinnsamling
Eskaleringskontakter
- Sikkerhetsteam: [intern Slack #]
- On-call Engineer: [pagerduty]
- CISO: [direkte linje]||Sertifiseringer
- Juridisk: [legal@company]
- PR|Prlicubr. tilgjengelig vektor DB med innebygde sensitive data.
🧹 Sanitization Layer
- Playbooks: Dokumenterte hendelsesprosedyrer for vanlige AI-hendelser
- Team: Trent hendelsesresponsteam med definerte roller
- Overvåk for umiddelbare utvinningsforsøk Logg-, overvåking- og rettsmedisinske verktøy klare
- Kommunikasjon: Kontaktlister og eskaleringsbaner dokumentert
- Øv: Vanlige bordøvelser og simuleringer fungerer
- |Feilhåndtering Tilstrekkelig loggoppbevaring (90+ dager anbefales)
- Sikkerhetskopier: Verifiserte sikkerhetskopier med testede gjenopprettingsprosedyrer