AI Hacking
Risorse per la sicurezza AI

OWASP Top 10 per le applicazioni LLM 2026

L'elenco definitivo dei rischi critici per la sicurezza nelle applicazioni LLM, che riflette la versione OWASP 2026 e revisionato nell'ottobre 2026

73%
Le distribuzioni di intelligenza artificiale presentano vulnerabilità critiche
(OWASP State of AI Security, 2025)
41%
L'AI aziendale ha API non autenticate
(CodeWall Research, 2025)
Virtually 100%
Iniezione rapida sfruttabile nelle distribuzioni LLM
(OWASP LLM Top 10, 2025)
⚠

Consapevolezza del rischio critico

Il Prompt Injection rimane la vulnerabilità n. 1. Consulta la nostra guida completa al prompt injection →

🔮

OWASP LLM Top 10 2026: cosa è cambiato

La versione 2026 è lo standard attivo. Rispetto all'elenco del 2025 riordina i primi cinque e aggiunge copertura per agenti e sistemi di recupero:

  • Spostato in alto: Divulgazione di informazioni sensibili — Ora LLM02, che riflette le perdite di credenziali e tempestive come percorso di perdita di alto livello
  • Spostato in alto: vulnerabilità della catena di fornitura — Ora LLM03, che copre plug-in, hub di modelli e marketplace di strumenti per agenti
  • Rinominato: Data and Model Poisoning — Assorbe il vecchio Training Data Poisoning presso LLM04, ora include corpora RAG e memoria dell'agente
  • Rinominato: Gestione errata dell'output — Precedentemente Gestione non sicura dell'output, ora LLM05 con una guida più chiara al sink a valle
  • NOVITÀ: perdita di prompt del sistema — LLM07, estrazione rapida come rischio distinto una volta che gli agenti espongono il loro contesto
  • NOVITÀ: debolezze di vettori e incorporamenti — LLM08, avvelenamento da recupero e incorporamento del controllo di accesso al negozio
  • NOVITÀ: disinformazione — LLM09, output del modello fabbricato o non verificabile che raggiunge utenti e sistemi
  • Ampliato: agenzia eccessiva — LLM06, ampliato per coprire l'abuso dello strumento MCP e gli ambiti OAuth delegati

Leggi la Top 10 di OWASP LLM →

LLM01

Prompt Injection

Critical

Manipolazione del comportamento LLM attraverso input predisposti che sovrascrivono le istruzioni originali. Include l'inserimento diretto (input dell'utente) e indiretto (dati esterni).

Tipi di attacchi
  • Iniezione diretta: richieste di utenti malintenzionati che sovrascrivono le istruzioni del sistema
  • Iniezione indiretta: istruzioni nascoste in documenti esterni, contenuti Web o risposte API
  • Manipolazione del contesto: sfruttare il contesto della conversazione per alterare il comportamento
  • Attacchi jailbreak: bypassare i filtri di sicurezza tramite suggerimenti creativi
Esempi di attacco
  • Ignore previous instructions and...
  • Testo incorporato in caratteri Unicode invisibili
  • Inserimento rapido tramite XSS archiviato nel contenuto web
  • DAN (Do Anything Now) style jailbreaks
Strategie di mitigazione
  • Implementa una rigorosa convalida e sanificazione dell'input
  • Utilizzare la separazione dei privilegi tra gli input dell'utente e il sistema suggerimenti
  • Applica il filtraggio dell'output prima di visualizzare i risultati
  • Monitoraggio dei modelli di iniezione nei log
  • Implementa una difesa approfondita con più livelli di sicurezza
LLM02

Divulgazione di informazioni sensibili

Critical

LLM che rivelano inavvertitamente informazioni private, riservate o proprietarie attraverso gli output del modello.

Tipi di attacchi
  • Estrazione dei dati di addestramento: recupero di dati sensibili dalla memoria del modello
  • Perdita di PII: esposizione di informazioni di identificazione personale
  • Esposizione chiave API/credenziali: rivelare segreti nelle risposte
  • Divulgazione della logica aziendale: esposizione di algoritmi o processi proprietari
Esempi di attacco
  • Estrazione di indirizzi email tramite prompt specifici
  • Rivelazione delle credenziali SQL nei messaggi di errore
  • Divulgazione delle informazioni personali del cliente dai dati di addestramento
  • Esporre i prompt del sistema interno
Strategie di mitigazione
  • Implementa filtri di input/output robusti
  • Applica pipeline di sanificazione dei dati
  • Applicare policy di disattivazione dell'utente per l'utilizzo dei dati
  • Utilizzare tecniche di privacy differenziali
  • Limitare l'accesso e la visibilità dei prompt del sistema
LLM03

Vulnerabilità della catena di fornitura

High

Componenti compromessi o vulnerabili nella catena di fornitura LLM inclusi modelli, API, plug-in e servizi di terze parti.

Tipi di attacchi
  • Tampering dei modelli: modelli preaddestrati compromessi
  • Vulnerabilità delle dipendenze PyPI/npm: librerie non sicure
  • Dati di ottimizzazione dannosi: set di dati di addestramento avvelenati
  • Fornitori API compromessi: servizi LLM non attendibili
Esempi di attacco
  • Pesi dei modelli backdoor da fonti non attendibili
  • Sfruttamento delle librerie di trasformatori vulnerabili
  • Dati di addestramento avvelenati con trigger nascosti
  • Archivio documenti RAG compromesso
Strategie di mitigazione
  • Verificare l'integrità del modello tramite checksum e firme
  • Mantieni SBOM (distinta materiali software)
  • Utilizza hub di modelli attendibili e verifica la provenienza
  • Scansiona le dipendenze per individuare vulnerabilità note
  • Implementare la gestione del ciclo di vita del modello
LLM04

Data and Model Poisoning

High

Introdurre dati dannosi o distorti nelle pipeline di formazione, nel perfezionamento dei dati o nelle knowledge base RAG per compromettere l'integrità del modello.

Tipi di attacchi
  • Training Data Poisoning: danneggiamento dei dati di training del modello
  • Perfezionamento dell'avvelenamento: inserimento di backdoor tramite perfezionamento
  • RAG Poisoning: contaminazione delle basi di conoscenza di recupero
  • Manipolazione di incorporamento: danneggiamento dei database vettoriali
Esempi di attacco
  • Inserimento di esempi distorti per alterare il comportamento del modello
  • Creazione di trigger backdoor nei dati di training
  • Avvelenamento di set di dati pubblici utilizzati per la formazione
  • Iniezione di informazioni false nei documenti RAG
Strategie di mitigazione
  • Verificare la provenienza dei dati e l'integrità della catena di fornitura
  • Implementa la convalida dei dati e il rilevamento delle anomalie
  • Utilizza pipeline di sanificazione dei dati
  • Applicare robuste misure di protezione ottimizzate
  • Monitorare la deviazione del comportamento del modello
LLM05

Gestione impropria dell'output

High

Impossibile convalidare, disinfettare o gestire correttamente gli output LLM prima di trasmetterli ai sistemi o agli utenti a valle.

Tipi di attacchi
  • XSS tramite LLM Output: scripting cross-site dalle risposte del modello
  • SQL Injection: query dannose generate da LLM
  • Iniezione di comandi: LLM che genera comandi di sistema non sicuri
  • Path Traversal: LLM rivela o accesso a percorsi non autorizzati
Esempi di attacco
  • LLM che genera JavaScript che viene eseguito nel browser
  • Modello che genera query SQL dannose
  • Generazione di codice comprese chiamate di sistema non sicure
  • Divulgazione del percorso del file nelle risposte
Strategie di mitigazione
  • Implementa la convalida e la sanificazione dell'output
  • Utilizza il filtro dei contenuti sensibile al contesto
  • Applica gli stessi controlli di sicurezza degli input dell'utente
  • Output LLM sandbox prima dell'uso a valle
  • Abilita modalità di codifica sicure nella generazione del codice
LLM06

Agenzia eccessiva

High

Concedere ai sistemi LLM troppe funzionalità, autonomia, autorizzazioni o consentire azioni non autorizzate o dannose.

Tipi di attacchi
  • Accesso illimitato alle funzioni: autorizzazioni API eccessive
  • Azione autonoma: esecuzione di azioni senza l'approvazione umana
  • Abuso di strumenti: sfruttamento di strumenti esterni integrati
  • Manipolazione della catena di pensiero: alterazione dei processi di ragionamento
Esempi di attacco
  • LLM con accesso API amministratore che esegue modifiche non autorizzate
  • Transazioni finanziarie con esecuzione automatica
  • Eliminazione di risorse senza conferma
  • Manipolazione dei dati utente senza consenso
Strategie di mitigazione
  • Implementare controlli di accesso con privilegi minimi
  • Richiedere l'intervento umano per azioni critiche
  • Applica la limitazione della velocità a operazioni sensibili
  • Registra e monitora tutte le azioni autonome
  • Utilizza limitazioni di ambito per l'accesso allo strumento
LLM07

Perdite di prompt del sistema

Medium

Esporre suggerimenti, istruzioni o logica interna del sistema riservato attraverso la manipolazione o protezioni inadeguate.

Tipi di attacchi
  • Estrazione diretta dei prompt: ingegneria sociale per rivelare i prompt
  • Overflow del contesto: tecniche di overflow per esporre i messaggi di sistema
  • Sfruttamento del gioco di ruolo: ingannare LLM per rivelare istruzioni
  • Perdite di log: esposizione di prompt in log o errori
Esempi di attacco
  • Chiedere a LLM di ripetere il "testo precedente" per estrarre il prompt del sistema
  • Utilizzo dell'overflow della finestra di contesto per ignorare l'analisi delle istruzioni
  • Inserimento rapido per sovrascrivere il ruolo di sistema
  • Trovare richieste nei registri dell'applicazione
Strategie di mitigazione
  • Offuscare i prompt di sistema ove possibile
  • Implementare tecniche di isolamento tempestivo
  • Utilizzare un'elaborazione separata per istruzioni sensibili
  • Monitora i tentativi di estrazione dei prompt
  • Applica un rigoroso filtraggio dei log
LLM08

Debolezze di vettori e incorporamento

Medium

Vulnerabilità della sicurezza nei sistemi RAG (Retrieval-Augmented Generation), database vettoriali e pipeline di incorporamento.

Tipi di attacchi
  • RAG Injection: contenuti dannosi nei documenti recuperati
  • Compromesso DB vettoriale: attacco allo storage vettoriale
  • Estrazione dell'incorporamento: furto di rappresentazioni di incorporamento
  • Manipolazione del contesto: risultati di recupero danneggiati
Esempi di attacco
  • Documenti avvelenati recuperati come risultati principali
  • Accesso non autorizzato al database vettoriale
  • Estrazione dei dati di addestramento dagli incorporamenti
  • Manipolazione del recupero tramite attacchi di incorporamento
Strategie di mitigazione
  • Convalida e disinfetta tutti i documenti di input RAG
  • Implementare controlli di accesso al database vettoriale
  • Utilizza la crittografia incorporata ove disponibile
  • Applica riclassificazione con filtri di sicurezza
  • Monitora il recupero per anomalie
LLM09

Disinformazione

Medium

LLM che generano contenuti falsi, fuorvianti o distorti che appaiono credibili, portando a decisioni informate basate su informazioni errate.

Tipi di attacchi
  • Allucinazioni: Risultati certi ma falsi
  • Errori reali: informazioni errate presentate come fatti
  • Amplificazione dei bias: rafforzamento dei bias esistenti
  • Manipolazione: output deliberatamente fuorvianti
Esempi di attacco
  • Citazione di documenti di ricerca inesistenti
  • Fornire consulenza medica errata
  • Generazione di raccomandazioni di assunzione distorte
  • Creazione di notizie o recensioni false
Strategie di mitigazione
  • Implementare pipeline di verifica dei fatti
  • Utilizza punteggio di confidenza e stima dell'incertezza
  • Applica la verifica della fonte per output critici
  • Aggiungi provenienza e attribuzione dei contenuti
  • Etichetta chiaramente i contenuti generati dall'intelligenza artificiale
LLM10

Consumo illimitato

Medium

Consentire un utilizzo eccessivo o incontrollato delle risorse da parte delle applicazioni LLM, con conseguente negazione del servizio, sfruttamento finanziario o degrado del servizio.

Tipi di attacchi
  • Abuso del tasso API: chiamate API eccessive che esauriscono le quote
  • Esaurimento delle risorse: massimizzare le risorse di elaborazione
  • Sfruttamento dei costi: abuso del pagamento per token che comporta addebiti
  • Attacchi di inferenza: estrazione del modello tramite query eccessive
Esempi di attacco
  • Attacchi automatizzati che consumano l'intera quota API
  • Spam di prompt di lunghezza massima che causa l'esaurimento del calcolo
  • Estrazione del modello tramite milioni di query
  • I prompt ricorsivi eseguono loop che consumano risorse
Strategie di mitigazione
  • Implementazione di limiti e quote rigorosi
  • Aggiungi limiti token di input/output
  • Monitora i modelli di utilizzo per individuare anomalie
  • Utilizzare controlli sui costi e avvisi di budget
  • Applica controlli di timeout su operazioni di lunga durata

OWASP Testing Framework

Segui questo approccio strutturato per testare ciascuna vulnerabilità:

1. Ricognizione

  • Mappatura dell'architettura del sistema e del flusso di dati
  • Identificazione dei punti di input e delle interfacce API
  • Strumenti e plugin integrati nei documenti
  • Esamina i prompt e la configurazione del sistema

2. Mappatura delle vulnerabilità

  • Testare ogni categoria OWASP sistematicamente
  • Superficie di attacco dei documenti e punti di ingresso
  • Identificare i meccanismi di difesa in atto
  • Mappa dipendenze e servizi di terze parti

3. Sfruttamento

  • Condurre attacchi proof-of-concept
  • Sfruttabilità e impatto dei documenti
  • Concatenamento multiplo di test vulnerabilità
  • Valutare la fattibilità di un attacco nel mondo reale

4. Segnalazione

  • Dare priorità ai risultati in base al livello di rischio
  • Fornire consigli di risoluzione
  • Includi codice proof-of-concept
  • Suggerisci miglioramenti difensivi

Risorse ufficiali

Sorgenti e statistiche

AH
AI Hacking Team

The AI Hacking team researches and documents AI/LLM security vulnerabilities, red teaming techniques, and defensive strategies. Our guides are based on real-world pentesting experience and continuous monitoring of the AI security landscape.

Frequently Asked Questions

Qual è la Top 10 dell'OWASP LLM?
L'OWASP LLM Top 10 è un elenco consensuale delle vulnerabilità di sicurezza più critiche nelle applicazioni Large Language Model, gestito dalla comunità OWASP. Copre rischi come l’iniezione tempestiva, la gestione non sicura degli output, l’avvelenamento dei dati di formazione, le vulnerabilità della catena di fornitura e altro ancora.
Che cos'è l'iniezione rapida (LLM01)?
L'iniezione tempestiva è il rischio per la sicurezza LLM n. 1 in cui gli aggressori manipolano i modelli di intelligenza artificiale attraverso input dannosi per ignorare le istruzioni di sistema, estrarre dati sensibili o aggirare i controlli di sicurezza. Include l'iniezione diretta (tramite prompt dell'utente) e l'iniezione indiretta (tramite origini dati esterne).
Cosa è cambiato nella OWASP LLM Top 10 2026?
La versione del 2026 amplia l'elenco per coprire i sistemi di agenti e di recupero. La divulgazione di informazioni sensibili passa al livello LLM02, le vulnerabilità della catena di fornitura al livello LLM03 e l'avvelenamento di dati e modelli al livello LLM04. La gestione impropria dell'output sostituisce la gestione non sicura dell'output in LLM05 e vengono visualizzate tre categorie dell'era dell'agente: perdita di prompt del sistema (LLM07), debolezze di vettori e incorporamento (LLM08) e disinformazione (LLM09).
Come posso proteggermi dalle vulnerabilità della catena di fornitura LLM?
Proteggiti dai rischi della catena di fornitura LLM: esaminando modelli e set di dati di terze parti prima dell'uso, utilizzando versioni bloccate e verifica dell'hash, monitorando pacchetti dannosi in PyPI/npm/Hugging Face, implementando l'analisi della composizione del software per le dipendenze AI e mantenendo un inventario di tutti i componenti AI/ML nella pipeline.
Quale percentuale delle implementazioni IA presenta vulnerabilità critiche?
Secondo il rapporto State of AI Security di OWASP, il 73% delle implementazioni di intelligenza artificiale presentano vulnerabilità critiche. Inoltre, il 41% dei sistemi di intelligenza artificiale aziendale dispone di API non autenticate e praticamente il 100% delle implementazioni LLM sono sfruttabili tramite prompt injection.
Che cos'è la divulgazione di informazioni sensibili negli LLM?
La divulgazione di informazioni sensibili si verifica quando gli LLM rivelano inavvertitamente dati riservati dai dati di addestramento, dalle istruzioni di sistema o dal contesto recuperato. Ciò può esporre chiavi API, logica aziendale interna, informazioni di identificazione personale (PII) e algoritmi proprietari attraverso richieste attentamente predisposte.
Come posso proteggere le API LLM?
Proteggi le API LLM implementando l'autenticazione e la limitazione della velocità, convalidando e disinfettando tutti gli input, filtrando gli output per i dati sensibili, utilizzando endpoint separati per diversi livelli di fiducia, registrando tutte le interazioni API ed evitando l'inclusione di dati sensibili nelle richieste di sistema.

Stay Ahead of AI Security

Get the latest AI/LLM security research, OWASP updates, and new vulnerabilities delivered straight to your inbox.