Agenda de răspuns la incidente AI
Step-by-step procedures for responding to AI security incidents including LLM breaches, agent compromise, and prompt injection - Updated July 2026
$4.2M
Cost mediu de incident de securitate AI
(IBM Cost of Data Breach 2025)
29 min
Timp mediu de spargere a infracțiunilor eCrime
(CrowdStrike 2026)
47 days
Timp mediu de corecție a vulnerabilității AI
(Ponemon Institute)
🚨
Critic: Acționați rapid
AI incidents can spread rapidly. Average eCrime breakout time is 29 minutes. Have this playbook ready BEFORE incidents occur.
Clasificarea incidentelor
CRITIC - P0
- Exfiltrarea datelor confirmate prin sistemul AI
- Executarea de la distanță a codului pe infrastructura AI
- Furtul sau extragerea completă a modelului
- Acces neautorizat la sistemele AI de producție
- Injectare promptă activă cu impact asupra datelor
Timp de răspuns: Imediat - Activați echipa incidentă| 2025)
HIGH - P1
- Suspect de atac prompt de injecție
- Modele de apel API neobișnuite
- Încercări de ocolire de autentificare| time
- Modificarea bazelor de date vectoriale
- Agent care acționează în afara parametrilor definiți
Timp de răspuns: În decurs de 1 oră
MEDIUM - P2
- Potențiale date sensibile în solicitări
- Comportament neobișnuit de model sau halucinații
- Încercări eșuate de atac (blocate)
- Încălcarea politicii de către ieșirea AI
Timp de răspuns: În termen de 4 ore
LOW - P3
- Încălcări minore ale politicii
- Activitate suspectă, dar neconcludentă
- Rapoarte de testare/fals pozitive
Timp de răspuns: În 24 de ore
Faza 1: Identificare și triaj (0-30 min)
Declanșatoare de detectare
Alerte automate
- Spinuri anormale de utilizare a API
- Modele de răspuns neobișnuite
- încercări
- Încălcări ale limitei ratei
- Declanșatorii de detectare a toxicității
Rapoarte manuale
- Rapoartele utilizatorilor de rezultate suspecte
- Reclamațiile clienților
- Preocupări legate de securitatea angajaților
- Notificări de la terți
Lista de verificare a triajului imediat
- Confirmați incidentul: Cronologie
- Clasificați severitatea: P0-P3 în funcție de impact
- Păstrează dovezi: Începeți imediat înregistrarea în jurnal
- Echipa de notificare: Lider de răspuns la incident de alertă
- Cronologie documentului: Înregistrați când au apărut primii indicatori
Phase 2: Containment (30 min - 2 hours)
LLM API Containment
- Rotiți cheile API: Rotiți imediat orice acreditări potențial compromise
- Limitarea ratei: Aplicați limite agresive de rată la punctele finale afectate
- blocare a pieței CA Blocați IP-uri surse rău intenționate la gateway-ul API
- Feature flags: Dezactivați funcțiile riscante (încărcări de fișiere, execuție de cod)
- Modul doar citire: Luați în considerare modul doar citire pentru sistemele afectate
Reținerea agenților
- Începeți procesele agentului: | imediat
- Revocați accesul la instrument: Dezactivați accesul agentului la instrumentele sensibile
- Izolați serverele MCP: Deconectați conexiunile suspecte de server MCP
- Cunoaștere profundă a produsului, testare continuă Forțați deconectarea tuturor sesiunilor active
- Segmentarea rețelei: Izolați sistemele AI din rețelele critice
Conținutul de date
- Jurnale de audit: Păstrați toate jurnalele de acces pentru analize criminalistice
- Instantanee ale bazei de date: Fă instantanee la un moment dat
- Baza de date vectorială: Izolați și examinați baza de date vectorială
- Integritatea copiei de rezervă: Verificați că backup-urile recente nu au fost compromise
Faza 3: Investigație (2-24 de ore)
Analiza jurnalului
Colectați și analizați:
- Jurnalele de solicitări/răspunsuri API: Toate apelurile API LLM cu marcaje temporale
- Jurnalele de autentificare: Încercări de conectare, utilizare a jetonului
- Jurnale de aplicație: Jurnalele serverului de la serviciile de procesare AI
- Jurnalele rețelei: Modele de trafic, IP-uri sursă
- Jurnalele de activitate ale utilizatorilor: Integrați alerte în timp real pentru amenințări critice
Analiza vectorului de atac
Injectare promptă
- Identificați modele de injecție
- Urmărirea sursei de injectare
- Evaluați impactul manipulării
- Tehnica de atac de documente
Ce poate face AI?
- Identificați datele accesate
- || metoda de exfiltrare
- Evaluarea sensibilității datelor
- Calculați numărul de înregistrări
Compromisul agentului
- Identificați acțiuni compromise
- Utilizarea greșită a instrumentului de urmărire
- Evaluează accesul neautorizat
- Mișcarea laterală a documentului
Prezervarea dovezilor
- Creați copii criminalistice: Copii bit-cu-bit ale sistemelor afectate
- | network Calculați și documentați hash-urile fișierelor
- Lanțul de custodie: Documentați cine a accesat ce dovezi
- Stocare securizată: Păstrați dovezi într-o locație securizată, cu acces
- Crearea cronologiei: Creați cronologia detaliată a incidentelor
Faza 4: Remediere (24-72 de ore)
Remedieri imediate
Vulnerabilități LLM
- Lacunele de validare a intrărilor de corecție
- Actualizați filtrarea conținutului
- Consolidați igienizarea rezultatelor
- Adăugați detectarea injecției
Probleme cu agenții
- Reduce permisiunile agentului
- Adăugați fluxuri de lucru de aprobare
- Implementați limite mai stricte
- Actualizați controalele de acces la instrumente
Remedierea infrastructurii
- Resetarea acreditării: Forțați resetarea parolei, rotiți toate cheile API
- Evaluare acces: Permisiuni de auditare și curățare
- Întărirea rețelei: Actualizați regulile paravanului de protecție, rețelele de segmente
- Monitorizează actualizări: Îmbunătățiți monitorizarea cu noi reguli de detectare
- Verificare de rezervă: Verificați copiile de rezervă curate, testați restaurarea
Faza 5: Notificare și raportare | să fie exploatate pentru a scurge informații confidențiale.
Raportare internă
- Rezumat executiv: Prezentare generală a incidentelor de 1 pagină pentru conducere
- Raport tehnic: Descoperiri tehnice detaliate pentru echipa de securitate
- Cronologie: Cronologie completă a incidentelor cu evenimente cheie
- Lecții învățate: Ce a mers bine, ce trebuie îmbunătățit
- Ponemon Institute 2025 Sarcini specifice cu proprietarii și termenele limită
|
Organisme de reglementare
- GDPR: notificare de 72 de ore către DPA
- Legislația AI UE: Raportați autorității competente
- Reglementări sectoriale (finanțe, asistență medicală)
- Legile privind notificarea încălcării de stat
Părțile afectate
- Notificarea clienților (dacă datele sunt afectate)
- Notificare partener de afaceri
- Dezvăluirea CVE (dacă este cazul)
- Dezvăluirea publică (dacă este necesar)
Faza 6: Stare post-incident|02 Activități software|02|
Analiza cauzei principale
- Analiza 5 motive: Detailați pentru a securiza cauza principală||Incluzie| în datele de antrenament
- Atacuri automate|de consumare a întregii proceduri de răspuns la API| Incidente de securitate AI, inclusiv încălcări LLM, compromiterea agentului și injectarea promptă - Actualizat martie 2026 Cum a reușit atacatorul?
- Eșecuri de control: Ce controale nu au funcționat?
- Finalizare generală De ce nu a fost surprins mai devreme?
- Probleme de proces: Unde au eșuat procesele de răspuns?
Acțiuni de îmbunătățire
Tehnic
- Implementați controalele de securitate lipsă
- Actualizați regulile de detectare
- Patch-uri de vulnerabilități
- Îmbunătățiți monitorizarea
Proces
- Actualizați procedurile de răspuns la incident
- Îmbunătățiți protocoalele de comunicare
- Îmbunătățiți programele de instruire
- Ocolirea documentului| ca descrierea documentului| a
Preventive
- Testarea echipei roșii
- Exerciții de masă
- Instruire de conștientizare a securității
- Evaluare arhitectura
Referință rapidă de urgență
Acțiuni de incidente critice
- Rotiți imediat cheile API
- Dezactivați punctele finale afectate
- Păstrați toate jurnalele
- Notificați CISO în 15 minute
- Începeți colectarea dovezilor
Escalation Contacts
- Echipa de securitate: [nr. slăbiciune intern]
- On-call Engineer: [pagerduty]
- CISO: [linia directă AI]
- Legal: [legal@company]
- |Vector de comunicare PR/Public@]
Încălcări de verificare a confidențialității| (2024)
- Playbooks: Proceduri documentate de răspuns la incidente pentru incidente comune AI
- Echipa: Echipă instruită de răspuns la incident cu roluri definite
- Instrumente: Înregistrare, monitorizare și instrumente criminalistice gata
- || Descoperire: liste de contacte și căi de escaladare documentate
- Practică: Exerciții și simulări formale regulate de masă
- Reținere: Reținere suficientă a jurnalelor (se recomandă peste 90 de zile)
- Backup-uri: Copii de rezervă verificate cu proceduri de restaurare testate