Playbook sulla risposta agli incidenti AI
Step-by-step procedures for responding to AI security incidents including LLM breaches, agent compromise, and prompt injection - Updated July 2026
$4.2M
Costo medio degli incidenti di sicurezza AI
(IBM Cost of Data Breach 2025)
29 min
Tempo medio di interruzione dell'eCrime
(CrowdStrike 2026)
47 days
Tempo medio di patch di vulnerabilità AI
(Ponemon Institute)
🚨
Agire critico: agire rapidamente
AI incidents can spread rapidly. Average eCrime breakout time is 29 minutes. Have this playbook ready BEFORE incidents occur.
Classificazione degli incidenti
CRITICO - P0
- Esfiltrazione di dati confermata tramite sistema AI
- Esecuzione di codice remoto su infrastruttura AI
- Furto o estrazione completa del modello
- Accesso non autorizzato ai sistemi di intelligenza artificiale di produzione
- Prompt injection attiva con impatto sui dati
Tempo di risposta: Immediato: attiva il team di assistenza entro 15 minuti
HIGH - P1
- Sospetto attacco di tipo prompt injection
- Modelli di chiamata API insoliti
- Tentativi di bypass dell'autenticazione
- Manomissione del database vettoriale
- Agente che agisce al di fuori dei parametri definiti
Tempo di risposta: Entro 1 ora
MEDIO - P2
- Potenziali dati sensibili nei prompt
- Comportamento insolito o allucinazioni del modello
- Tentativi di attacco falliti (bloccati)
- Violazione delle policy tramite output dell'intelligenza artificiale
Tempo di risposta: Entro 4 ore
LOW - P3
- Violazioni minori delle policy
- Attività sospetta ma inconcludente
- Report di test/falsi positivi
Tempo di risposta: Entro 24 ore
Fase 1: identificazione e triage (0-30 min)
Trigger di rilevamento
Avvisi automatizzati
- Picchi di utilizzo anomali delle API
- Modelli di risposta insoliti
- Tentativi di autenticazione non riusciti
- Violazione dei limiti di velocità
- Trigger del rilevamento di tossicità
Rapporti manuali
- Segnalazioni utente di output sospetto
- Reclami dei clienti
- Preoccupazioni per la sicurezza dei dipendenti
- Notifiche di terze parti
Elenco di controllo per il triage immediato
- Conferma l'incidente: Si tratta di un vero evento di sicurezza o di un falso positivo?
- Classificare la gravità: P0-P3 in base all'impatto
- Conservare le prove: Inizia a registrare tutto immediatamente
- Invia notifica al team: Responsabile della risposta agli incidenti di avviso
- Cronologia del documento: Registra quando sono comparsi i primi indicatori
Fase 2: contenimento (30 min - 2 ore)
Contenimento API LLM
- Ruota le chiavi API: Ruotare immediatamente qualsiasi credenziale potenzialmente compromessa
- Limitazione della velocità: Applica limiti di velocità aggressivi agli endpoint interessati
- Blocco IP: Blocca IP di origine dannosi sul gateway API
- Flag funzionalità: Disabilita funzionalità rischiose (caricamenti di file, esecuzione di codice)
- Modalità di sola lettura: Considerare la modalità di sola lettura per i sistemi interessati
Contenimento degli agenti
- Termina i processi dell'agente: Arresta immediatamente gli agenti compromessi
- Revoca l'accesso allo strumento: Disabilita l'accesso degli agenti agli strumenti sensibili
- Isolare i server MCP: Disconnettere connessioni server MCP sospette
- Invalidazione della sessione: Forza la disconnessione di tutte le sessioni attive
- Segmentazione della rete: Isola i sistemi di intelligenza artificiale dalle reti critiche
Contenimento dei dati
- Log di controllo: Conservare tutti i registri di accesso per l'analisi forense
- Istantanee del database: Acquisire istantanee temporizzate
- Database vettoriale: Isolare ed esaminare il database vettoriale
- Integrità del backup: Verificare che i backup recenti non siano stati compromessi
Fase 3: indagine (2-24 ore)
Analisi dei log
Raccogli e analizza:
- Registri di richiesta/risposta API: Tutte le chiamate API LLM con timestamp
- Log di autenticazione: Tentativi di accesso, utilizzo di token
- Log dell'applicazione: Log del server dai servizi di elaborazione AI
- Log di rete: Modelli di traffico, IP di origine
- Log attività utente: Chi ha avuto accesso a cosa e quando
Analisi vettoriale degli attacchi
Prompt Injection
- Identificare i modelli di iniezione
- Traccia sorgente di injection
- Valutare l'impatto della manipolazione
- Tecnica di attacco ai documenti
Esfiltrazione dei dati
- Identifica i dati a cui si accede
- Determina il metodo di esfiltrazione
- Valutare la sensibilità dei dati
- Calcola il conteggio dei record
Compromissione dell'agente
- Identifica le azioni compromesse
- Tracciare l'uso improprio dello strumento
- Valuta l'accesso non autorizzato
- Movimento laterale dei documenti
Conservazione delle prove
- Crea copie forensi: Copie bit per bit dei sistemi interessati
- Verifica dell'hash: Calcola e documenta gli hash dei file
- Catena di custodia: Documentare chi ha avuto accesso a quali prove
- Archiviazione sicura: Archivia le prove in un luogo sicuro e ad accesso controllato
- Creazione della sequenza temporale: Crea una cronologia dettagliata degli incidenti
Fase 4: riparazione (24-72 ore)
Correzioni immediate
Vulnerabilità LLM
- Correggere le lacune nella convalida dell'input
- Aggiorna il filtraggio dei contenuti
- Rafforzare la sanificazione dell'output
- Aggiungi rilevamento injection
Problemi dell'agente
- Riduci le autorizzazioni dell'agente
- Aggiungi flussi di lavoro di approvazione
- Implementa confini più rigidi
- Aggiorna i controlli di accesso allo strumento
Risanamento dell'infrastruttura
- Reimpostazione delle credenziali: Forza la reimpostazione della password, ruota tutte le chiavi API
- Revisione dell'accesso: Controlla e pulisci le autorizzazioni
- Potenziamento della rete: Aggiorna le regole del firewall, segmenta le reti
- Monitora aggiornamenti: Migliora il monitoraggio con nuove regole di rilevamento
- Verifica del backup: Verifica backup puliti, testa il ripristino
Fase 5: notifiche e report
Report interno
- Riepilogo esecutivo: Panoramica degli incidenti di 1 pagina per la leadership
- Rapporto tecnico: Risultati tecnici dettagliati per il team di sicurezza
- Cronologia: Cronologia completa dell'incidente con eventi chiave
- Lezioni apprese: Cosa è andato bene, cosa deve essere migliorato
- Azioni: Attività specifiche con proprietari e scadenze
Notifiche esterne
Organi di regolamentazione
- GDPR: notifica 72 ore al DPA
- Legge dell'UE sull'intelligenza artificiale: segnalare all'autorità competente
- Autorità di regolamentazione del settore (finanza, sanità)
- Leggi sulla notifica delle violazioni da parte dello stato
Parti interessate
- Notifica al cliente (se i dati sono interessati)
- Notifica ai partner commerciali
- Divulgazione CVE (se applicabile)
- Divulgazione pubblica (se richiesta)
Fase 6: attività post-incidente
Analisi della causa principale
- 5 Analisi dei motivi: Analizza la causa principale
- Mappatura del percorso di attacco: Come è riuscito l'autore dell'attacco?
- Errori di controllo: Quali controlli non hanno funzionato?
- Lacune di rilevamento: Perché il problema non è stato rilevato prima?
- Problemi di processo: Dove hanno fallito i processi di risposta?
Azioni di miglioramento
Tecnico
- Implementa controlli di sicurezza mancanti
- Aggiorna le regole di rilevamento
- Vulnerabilità delle patch
- Migliora il monitoraggio
Processo
- Aggiorna le procedure di risposta agli incidenti
- Migliora i protocolli di comunicazione
- Migliora i programmi di formazione
- Documentare nuovi playbook
Preventivo
- Test del team rosso
- Esercizi in tabella
- Formazione sulla consapevolezza della sicurezza
- Revisione dell'architettura
Riferimento rapido per le emergenze
Azioni per incidenti critici
- Ruota immediatamente le chiavi API
- Disabilita endpoint interessati
- Conserva tutti i registri
- Informa il CISO entro 15 minuti
- Inizia la raccolta delle prove
Contatti di escalation
- Team di sicurezza: [internal Slack #]
- Tecnico di guardia: [pagerduty]
- CISO: [linea diretta]
- Ufficio legale: [legal@company]
- PR/Comunicazioni: [pr@company]
Elenco di controllo per la preparazione pre-incidente
- Playbook: Procedure di risposta agli incidenti documentate per incidenti AI comuni
- Team: Team di risposta agli incidenti addestrato con ruoli definiti
- Strumenti: Strumenti di registrazione, monitoraggio e forensi pronti
- Comunicazione: Elenchi di contatti e percorsi di escalation documentati
- Pratica: Esercizi e simulazioni regolari
- Conservazione: Conservazione dei log sufficiente (consigliati oltre 90 giorni)
- Backup: Backup verificati con procedure di ripristino testate