OWASP Top 10 per Agentic Applications 2026
Rischi per la sicurezza specifici degli agenti IA autonomi e dei flussi di lavoro IA in più fasi
Sicurezza dell'intelligenza artificiale
A differenza dei tradizionali LLM, i sistemi di intelligenza artificiale ad agenti pianificano, decidono, delegano e agiscono attraverso strumenti e sistemi. Ciò crea nuove superfici di attacco che richiedono approcci di sicurezza specializzati. Consultare la nostra guida alla sicurezza MCP →
Pronto per testare? Utilizza la nostra lista di controllo per il pentesting sull'intelligenza artificiale per casi di test riguardanti il dirottamento degli obiettivi, l'uso improprio degli strumenti, l'eccessiva azione di agente, l'iniezione tempestiva e i rischi della catena di fornitura.
Key insight: "At least 50% of the ten risks are directly mitigable at the API gateway layer" - Zuplo, 2026
Dirottamento obiettivo agente
Gli aggressori manipolano gli obiettivi, la logica di pianificazione o il percorso decisionale di un agente attraverso contenuti dannosi in input come e-mail, documenti, dati RAG o contenuti web.
Vettore di attacco
- Iniezione tempestiva indiretta tramite documenti velenosi
- Inviti a calendari/riunioni che alterano le priorità degli obiettivi
- Iniezione di documenti RAG per reindirizzare gli obiettivi dell'agente
- Manipolazione della persistenza degli obiettivi delle sessioni incrociate
Esempi dal mondo reale
- Le email dannose modificano le priorità di spesa degli agenti finanziari
- Problemi GitHub avvelenati/contenuti PR inseriti nel contesto dell'agente
- Inviti alle riunioni a modificare leggermente le gerarchie delle attività degli agenti
Strategie di mitigazione
- Implementa firewall tempestivi per rilevare la manipolazione degli obiettivi
- Convalida e disinfetta tutti i contenuti esterni prima dell'elaborazione
- Utilizzare l'applicazione e il monitoraggio dei limiti degli obiettivi
- Implementa la verifica della catena di pensiero
Uso improprio e sfruttamento dello strumento
Si abusa di strumenti o funzioni legittimi nell'ambito dei privilegi concessi, portando ad azioni o accesso ai dati non autorizzati.
Vettore di attacco
- Iniezione SQL tramite strumenti di database
- Accesso al file system per lettura/scrittura non autorizzata
- Abuso di API attraverso integrazioni concesse
- Manipolazione dei parametri dello strumento
Esempi dal mondo reale
- Strumento di esecuzione del codice utilizzato per eseguire comandi dannosi
- Strumento di database sfruttato per l'esfiltrazione di dati
- Strumento di file system utilizzato per accedere a directory sensibili
Strategie di mitigazione
- Implementa rigorosi registri di autorizzazione e controllo per l'uso degli strumenti
- Convalida tutti i parametri dello strumento prima dell'esecuzione
- Applica privilegi minimi alle autorizzazioni dello strumento
- Utilizza ambienti di esecuzione sandbox
Abuso di identità e privilegi
Gli agenti ereditano o delegano le credenziali senza un'adeguata definizione dell'ambito, creando lacune di attribuzione e rischi di escalation dei privilegi.
Vettore di attacco
- Delega delle credenziali senza ambito adeguato
- Confusione di ruoli tra azioni umane e agenti
- Escalation dei privilegi tramite azioni dell'agente
- Spoofing dell'identità in sistemi multi-agente
Esempi dal mondo reale
- L'agente utilizza le credenziali dello sviluppatore per le modifiche alla produzione
- Azioni dell'agente che appaiono come esseri umani nei log di controllo
- Ignoramento dell'isolamento multi-tenant tramite l'identità dell'agente
Strategie di mitigazione
- Implementare identità e gestione degli accessi specifici dell'agente
- Utilizza token di breve durata con ambito limitato
- Separare le autorizzazioni dell'agente dalle credenziali umane
- Applica l'attribuzione in tutti i log delle azioni dell'agente
Vulnerabilità della catena di fornitura dell'agente
Componenti compromessi o vulnerabili nell'ecosistema degli strumenti dell'agente, inclusi strumenti dannosi, plug-in e framework degli agenti compromessi.
Vettore di attacco
- Iniezioni di strumenti dannosi nei flussi di lavoro degli agenti
- Fornitori o registri di strumenti compromessi
- Definizioni di strumenti avvelenati con backdoor
- Vulnerabilità del framework nei livelli di orchestrazione
Esempi dal mondo reale
- Pacchetto npm/pypi sottoposto a trojan nelle dipendenze dell'agente
- Server MCP dannoso con esfiltrazione dei dati
- LangGraph compromesso o framework simile
Strategie di mitigazione
- Verifica l'integrità dello strumento tramite firme e checksum
- Mantenere SBOM per tutti i componenti dell'agente
- Utilizza registri attendibili e verifica la provenienza degli strumenti
- Scansiona le dipendenze per individuare vulnerabilità note
Esecuzione di codice imprevista
Gli agenti eseguono codice o comandi non previsti dalla progettazione del sistema, causando vulnerabilità legate all'esecuzione di codice in modalità remota.
Vettore di attacco
- Generazione di codice dinamico senza sandboxing adeguato
- Iniezione di comandi tramite chiamate generate da agenti
- Deserializzazione non sicura nei flussi di lavoro degli agenti
- Scrittura di file arbitrari tramite azioni dell'agente
Esempi dal mondo reale
- Agente che genera ed esegue query SQL dannose
- Strumento di interpretazione del codice che esegue i payload degli aggressori
- Comandi shell inseriti nell'output dell'agente
Strategie di mitigazione
- Sandbox tutti gli ambienti di esecuzione del codice
- Implementa una rigorosa convalida dell'input per il codice generato
- Utilizza elenchi consentiti per le operazioni consentite
- Applica timeout e limiti di risorse all'esecuzione
Avvelenamento della memoria e del contesto
Gli aggressori avvelenano la memoria, il contesto o i sistemi di recupero dell'agente per influenzare il comportamento futuro o estrarre informazioni.
Vettore di attacco
- Avvelenamento del database vettoriale con incorporamenti dannosi
- Manipolazione del recupero RAG per deviazione degli obiettivi
- Iniezione di dati falsi nella memoria a lungo termine
- Contaminazione del contesto delle sessioni incrociate
Esempi dal mondo reale
- Documenti dannosi classificati più in alto nei risultati RAG
- False informazioni archiviate nella memoria dell'agente
- Iniezione DB vettoriale che modifica il comportamento di recupero
Strategie di mitigazione
- Convalidare e disinfettare tutti i dati prima dell'archiviazione in memoria
- Implementare la classificazione del recupero con segnali di sicurezza
- Utilizza crittografia per contenuti sensibili della memoria
- Monitora la memoria per modifiche anomale
Comunicazione tra agenti non sicura
La comunicazione tra agenti non dispone di adeguati controlli di sicurezza, consentendo l'intercettazione, la manipolazione o la rappresentazione.
Vettore di attacco
- Intercettazione dei messaggi nella comunicazione con l'agente
- Impersonificazione dell'agente in sistemi multi-agente
- Manomissione dei messaggi tra agenti
- Mancanza di autenticazione tra gli agenti
Esempi dal mondo reale
- Un agente che si spaccia per un altro per aggirare i controlli
- Attacco man-in-middle tra le comunicazioni degli agenti
- Attacchi di replay dei messaggi nei flussi di lavoro degli agenti
Strategie di mitigazione
- Implementare il TLS reciproco per le comunicazioni degli agenti
- Utilizza messaggi firmati tra agenti
- Autenticazione delle identità degli agenti in tutte le comunicazioni
- Applicare controlli di convalida e integrità dei messaggi
Errori a cascata
Il guasto di un agente, strumento o componente si propaga attraverso il sistema, causando interruzioni diffuse o lacune nella sicurezza.
Vettore di attacco
- Singolo punto di errore nell'orchestrazione degli agenti
- Errore nella gestione dell'esposizione di dati sensibili
- Meccanismi di fallback che aggirano i controlli di sicurezza
- Loop di agenti ricorsivi che consumano risorse
Esempi dal mondo reale
- Convalida non riuscita che consente il passaggio di tutte le richieste
- Messaggi di errore che espongono i prompt del sistema
- Agente di fallback che ignora i flussi di lavoro di approvazione
Strategie di mitigazione
- Implementare interruttori automatici per i componenti dell'agente
- Progetta un degrado graduale preservando la sicurezza
- La convalida della gestione degli errori non espone dati sensibili
- Imposta limiti di esecuzione per evitare loop infiniti
Sfruttamento della fiducia degli agenti umani
Gli agenti sfruttano la fiducia degli utenti attraverso la manipolazione, l'ingegneria sociale o presentando informazioni fuorvianti come reali.
Vettore di attacco
- Presentare informazioni false come fatti sicuri
- Manipolazione degli utenti tramite output persuasivi
- Nascondere incertezze o errori
- Sfruttamento dell'eccessivo affidamento umano sugli output degli agenti
Esempi dal mondo reale
- L'agente fabbrica informazioni con un elevato livello di fiducia
- Codice con difetti di sicurezza presentati come sicuri
- Nascondere limitazioni o errori agli utenti
Strategie di mitigazione
- Implementare la quantificazione e la comunicazione dell'incertezza
- Richiedi l'approvazione umana per azioni ad alto rischio
- Aggiungi punteggi di confidenza agli output degli agenti
- Informare gli utenti sulle limitazioni dell'agente
Agenti non autorizzati
Gli agenti operano oltre l'ambito previsto, persistono in modo inappropriato o intraprendono azioni non autorizzate tra sessioni o sistemi.
Vettore di attacco
- L'agente continua le attività dopo la scadenza dell'autorizzazione
- Spawn o replica di agenti non autorizzati
- Azioni dell'agente che persistono tra le sessioni utente
- Escalation dell'agente alle funzioni a livello di amministratore
Esempi dal mondo reale
- L'agente in background continua dopo il logout dell'utente
- Agente non autorizzato che accede ad altri dati utente
- Agente che mantiene l'accesso dopo il completamento dell'attività
Strategie di mitigazione
- Implementa la gestione del ciclo di vita della sessione
- Imposta la scadenza e la pulizia delle attività
- Monitora la generazione di agenti non autorizzati
- Applica condizioni di terminazione rigorose
Sicurezza MCP (Model Context Protocol)
MCP consente agli assistenti AI di connettersi a strumenti e origini dati esterni, introducendo nuove considerazioni sulla sicurezza.
Rischi per la sicurezza MCP
- Server MCP non attendibili con funzionalità dannose
- Esfiltrazione dei dati tramite l'accesso allo strumento MCP
- Avvelenamento da definizioni di strumenti
- Autorizzazioni eccessive concesse ai server MCP
Best practice per la sicurezza MCP
- Verificare l'autenticità e la provenienza del server MCP
- Applica il privilegio minimo alle autorizzazioni dello strumento MCP
- Controlla tutte le comunicazioni del server MCP
- Utilizza l'isolamento di rete per i server MCP
Architettura di sicurezza agente
Livello 1: convalida dell'input
- Promuovi i firewall per il rilevamento del dirottamento degli obiettivi
- Sanificazione degli input per prevenire l'iniezione
- Limitazione della velocità per prevenire l'abuso delle risorse
- Filtro dei contenuti per dati esterni
Livello 2: sandbox dell'agente
- Ambienti di esecuzione isolati
- Limiti delle risorse (CPU, memoria, rete)
- Segmentazione della rete
- Esecuzione di strumenti in contenitori
Livello 3: autorizzazione dello strumento
- Ambito granulare delle autorizzazioni
- Lo strumento utilizza flussi di lavoro di approvazione
- Registrazione di controllo di tutte le invocazioni degli strumenti
- Accesso allo strumento limitato nel tempo
Livello 4: monitoraggio e risposta
- Monitoraggio del comportamento degli agenti in tempo reale
- Rilevamento di anomalie per le azioni degli agenti
- Risposta automatizzata alle minacce
- Tracce di controllo complete
Risorse ufficiali
Articoli correlati
- La violazione di Vercel: come uno strumento di intelligenza artificiale compromesso ha portato a una vendita di dati da 2 milioni di dollari
- Google avverte: gli attacchi Prompt Injection stanno aumentando sul Web pubblico
- OWASP LLMTop 10 2026
- Spiegazione del Sockpuppeting
- I 10 migliori strumenti di AI Red Teaming 2026