AI Hacking
Risorse per la sicurezza AI

Autovalutazione della sicurezza AI

Valuta il livello di sicurezza dell'intelligenza artificiale della tua organizzazione

🔍

Guida alla valutazione

Sii onesto nelle tue risposte per identificare reali lacune di sicurezza

Esiste un'autorizzazione scritta ed esplicita che copre tutti i sistemi di intelligenza artificiale testati, inclusi modelli di terze parti e server MCP di cui non sei proprietario?

Governo

Nota: Controlla le normative regionali (GDPR, legge AI) e gli obblighi contrattuali prima del test.

Hai classificato i dati toccati dai tuoi modelli e agenti ed escluso i dati personali di produzione dagli ambienti di test?

Governo

Nota: Una copia temporanea non testata dei dati reali dei clienti è ancora un dato regolamentato.

Tratti l'input del modello come non attendibile, con un confine documentato tra le istruzioni e il contenuto recuperato o fornito dall'utente?

Prompt Injection

Nota: Questo è OWASP LLM01. La maggior parte delle vere violazioni iniziano qui.

L'output del modello viene trattato come dati non attendibili in ogni sink downstream, anziché essere passato direttamente a una shell, a un SQL o a un modello?

Prompt Injection

Nota: OWASP LLM05: Gestione impropria dell'output.

I tuoi server MCP e gli strumenti agente applicano l'autenticazione e l'autorizzazione per strumento, anziché esporre ogni strumento a qualsiasi chiamante?

Agenti e MCP

Nota: Diversi CVE del 2026 hanno ottenuto un punteggio di 10,0 semplicemente perché il trasporto SSE è stato spedito senza autorizzazione.

Le azioni degli agenti sono limitate dal privilegio minimo, con cancelli di approvazione e limiti di spesa o di passaggio su circuiti autonomi?

Agenti e MCP

Nota: OWASP LLM06: Agenzia eccessiva.

Puoi controllare ciò che entra nel tuo corpus RAG e ottimizzare i dati e puoi risalire a una fonte autorizzata?

Dati e recupero

Nota: OWASP LLM04 e LLM08: avvelenamento e incorporamento del controllo degli accessi al negozio.

I segreti, le credenziali e i prompt di sistema vengono tenuti fuori dal contesto in modo che un utente malintenzionato possa influenzarli e viene impedito che vengano riprodotti?

Dati e recupero

Nota: OWASP LLM02 e LLM07.

Registrate l'attività del modello e dell'agente in un modulo che consenta di ricostruire cosa ha fatto una richiesta, comprese le chiamate allo strumento e il contesto recuperato?

Rilevamento e risposta

Nota: Senza questo non è possibile indagare su un incidente.

Esiste un percorso documentato per ritirare un modello o un agente una volta sospettati un'iniezione tempestiva o un abuso di strumenti?

Rilevamento e risposta

Nota: La revoca delle credenziali e la disabilitazione degli strumenti sono meglio dell'applicazione di patch durante l'incidente.

Punteggio di valutazione

Completa la valutazione per visualizzare il tuo punteggio

-
/ 30

Analisi della valutazione

Per categoria

Per livello di implementazione

Miglioramento Consigli

Completa la valutazione per visualizzare consigli personalizzati...

Frequently Asked Questions

What is an AI security self-assessment?
An AI security self-assessment is a structured evaluation of your organization's AI and LLM security posture. It covers areas like prompt injection readiness, data handling practices, MCP server security, access controls, incident response capabilities, and compliance with AI security standards and regulations.
How do I evaluate my organization's AI security posture?
Evaluate AI security posture by assessing: whether LLM inputs and outputs are properly validated, if MCP tools have appropriate access controls, how training data and model artifacts are protected, whether AI incident response plans exist, and if your team follows secure AI development practices and complies with relevant regulations.
What are the key areas to assess in AI security?
Key AI security assessment areas include: prompt injection defenses, model access controls, API security for LLM endpoints, MCP server configuration, training data protection, output filtering and leakage prevention, supply chain security for ML dependencies, and compliance with frameworks like NIST AI RMF and EU AI Act.
How often should AI security assessments be performed?
AI security assessments should be performed at least quarterly, plus whenever significant changes are made to AI systems. Trigger events include: deploying new LLM models, adding MCP tools or resources, changing system prompts, integrating new third-party AI services, or after any AI security incident.
Share: X LinkedIn Reddit HN

Stay Ahead of AI Security

Get the latest AI/LLM security research, OWASP updates, and new vulnerabilities delivered straight to your inbox.