Piratage de l'IA
Ressources de sécurité IA

Auto-évaluation de la sécurité de l'IA

Évaluez la posture de sécurité de l'IA de votre organisation

🔍

Conseils d'évaluation

Soyez honnête dans vos réponses pour identifier les véritables failles de sécurité

Existe-t-il une autorisation écrite et explicite couvrant les systèmes d'IA que vous testez, y compris les modèles tiers et les serveurs MCP que vous ne possédez pas ?

Gouvernance

Remarque : Vérifiez les réglementations régionales (RGPD, AI Act) et les obligations contractuelles avant de tester.

Avez-vous classifié les données touchées par vos modèles et agents et exclu les données personnelles de production des environnements de test ?

Gouvernance

Remarque : Une copie intermédiaire non testée des données client réelles reste des données réglementées.

Considérez-vous l'entrée du modèle comme non fiable, avec une frontière documentée entre les instructions et le contenu récupéré ou fourni par l'utilisateur ?

Injection de prompt

Remarque : Il s'agit d'OWASP LLM01. La plupart des véritables violations commencent ici.

La sortie du modèle est-elle traitée comme des données non fiables au niveau de chaque récepteur en aval, plutôt que d'être transmise directement à un shell, à un SQL ou à un modèle ?

Injection de prompt

Remarque : OWASP LLM05 : gestion incorrecte des sorties.

Vos serveurs MCP et vos outils d'agent appliquent-ils l'authentification et l'autorisation par outil, plutôt que d'exposer chaque outil à n'importe quel appelant ?

Agents et MCP

Remarque : Plusieurs CVE 2026 ont obtenu une note de 10,0 uniquement parce que le transport SSE a été expédié sans autorisation.

Les actions des agents sont-elles limitées par le moindre privilège, avec des portes d'approbation et des limites de dépenses ou d'étapes sur les boucles autonomes ?

Agents et MCP

Remarque : OWASP LLM06 : Agence excessive.

Contrôlez-vous ce qui entre dans votre corpus RAG et vos données de réglage fin, et pouvez-vous retracer un fragment récupéré jusqu'à une source autorisée ?

Données et récupération

Remarque : OWASP LLM04 et LLM08 : empoisonnement et intégration du contrôle d'accès au magasin.

Les secrets, les informations d'identification et les invites du système sont-ils conservés hors du contexte qu'un attaquant peut influencer, et leur retour est-il empêché ?

Données et récupération

Remarque : OWASP LLM02 et LLM07.

Enregistrez-vous l'activité du modèle et de l'agent sous une forme qui vous permet de reconstruire l'action d'une requête, y compris les appels d'outils et le contexte récupéré ?

Détection et réponse

Remarque : Sans cela, vous ne pouvez pas du tout enquêter sur un incident.

Existe-t-il un chemin documenté pour retirer un modèle ou un agent une fois qu'une injection de prompt ou un abus d'outil est suspecté ?

Détection et réponse

Remarque : La révocation des informations d'identification et la désactivation des outils sont plus efficaces que l'application de correctifs en cours d'incident.

Score d'évaluation

Terminez l'évaluation pour voir votre score

-
/ 30

Répartition de l'évaluation

Par catégorie

Par niveau d'implémentation

Amélioration Recommandations

Terminez l'évaluation pour voir des recommandations personnalisées...

Frequently Asked Questions

What is an AI security self-assessment?
An AI security self-assessment is a structured evaluation of your organization's AI and LLM security posture. It covers areas like prompt injection readiness, data handling practices, MCP server security, access controls, incident response capabilities, and compliance with AI security standards and regulations.
How do I evaluate my organization's AI security posture?
Evaluate AI security posture by assessing: whether LLM inputs and outputs are properly validated, if MCP tools have appropriate access controls, how training data and model artifacts are protected, whether AI incident response plans exist, and if your team follows secure AI development practices and complies with relevant regulations.
What are the key areas to assess in AI security?
Key AI security assessment areas include: prompt injection defenses, model access controls, API security for LLM endpoints, MCP server configuration, training data protection, output filtering and leakage prevention, supply chain security for ML dependencies, and compliance with frameworks like NIST AI RMF and EU AI Act.
How often should AI security assessments be performed?
AI security assessments should be performed at least quarterly, plus whenever significant changes are made to AI systems. Trigger events include: deploying new LLM models, adding MCP tools or resources, changing system prompts, integrating new third-party AI services, or after any AI security incident.
Share: X LinkedIn Reddit HN

Stay Ahead of AI Security

Get the latest AI/LLM security research, OWASP updates, and new vulnerabilities delivered straight to your inbox.