Autovalutazione della sicurezza AI
Valuta il livello di sicurezza dell'intelligenza artificiale della tua organizzazione
Guida alla valutazione
Sii onesto nelle tue risposte per identificare reali lacune di sicurezza
Esiste un'autorizzazione scritta ed esplicita che copre tutti i sistemi di intelligenza artificiale testati, inclusi modelli di terze parti e server MCP di cui non sei proprietario?
GovernoNota: Controlla le normative regionali (GDPR, legge AI) e gli obblighi contrattuali prima del test.
Hai classificato i dati toccati dai tuoi modelli e agenti ed escluso i dati personali di produzione dagli ambienti di test?
GovernoNota: Una copia temporanea non testata dei dati reali dei clienti è ancora un dato regolamentato.
Tratti l'input del modello come non attendibile, con un confine documentato tra le istruzioni e il contenuto recuperato o fornito dall'utente?
Prompt InjectionNota: Questo è OWASP LLM01. La maggior parte delle vere violazioni iniziano qui.
L'output del modello viene trattato come dati non attendibili in ogni sink downstream, anziché essere passato direttamente a una shell, a un SQL o a un modello?
Prompt InjectionNota: OWASP LLM05: Gestione impropria dell'output.
I tuoi server MCP e gli strumenti agente applicano l'autenticazione e l'autorizzazione per strumento, anziché esporre ogni strumento a qualsiasi chiamante?
Agenti e MCPNota: Diversi CVE del 2026 hanno ottenuto un punteggio di 10,0 semplicemente perché il trasporto SSE è stato spedito senza autorizzazione.
Le azioni degli agenti sono limitate dal privilegio minimo, con cancelli di approvazione e limiti di spesa o di passaggio su circuiti autonomi?
Agenti e MCPNota: OWASP LLM06: Agenzia eccessiva.
Puoi controllare ciò che entra nel tuo corpus RAG e ottimizzare i dati e puoi risalire a una fonte autorizzata?
Dati e recuperoNota: OWASP LLM04 e LLM08: avvelenamento e incorporamento del controllo degli accessi al negozio.
I segreti, le credenziali e i prompt di sistema vengono tenuti fuori dal contesto in modo che un utente malintenzionato possa influenzarli e viene impedito che vengano riprodotti?
Dati e recuperoNota: OWASP LLM02 e LLM07.
Registrate l'attività del modello e dell'agente in un modulo che consenta di ricostruire cosa ha fatto una richiesta, comprese le chiamate allo strumento e il contesto recuperato?
Rilevamento e rispostaNota: Senza questo non è possibile indagare su un incidente.
Esiste un percorso documentato per ritirare un modello o un agente una volta sospettati un'iniezione tempestiva o un abuso di strumenti?
Rilevamento e rispostaNota: La revoca delle credenziali e la disabilitazione degli strumenti sono meglio dell'applicazione di patch durante l'incidente.
Punteggio di valutazione
Completa la valutazione per visualizzare il tuo punteggio
Analisi della valutazione
Per categoria
Per livello di implementazione
Miglioramento Consigli
Completa la valutazione per visualizzare consigli personalizzati...