Piratage de l'IA
Ressources de sécurité IA

Centre des guides d'attaque

Guides complets sur les techniques d’attaque de sécurité AI et LLM. Chaque guide comprend des exemples concrets, des évaluations de gravité et des contre-mesures défensives.

Parcours du débutant

Vous débutez dans la sécurité de l'IA ? Suivez cet ordre de lecture recommandé :

  1. OWASP LLM Top 10 — Comprendre le paysage des risques de sécurité LLM.
  2. Guide d'injection de prompt — Maîtrisez la vulnérabilité LLM n°1 avec des exemples pratiques.
  3. RAG Security — Découvrez comment les systèmes RAG peuvent être empoisonnés et manipulés.
  4. Sécurité MCP — Explorez les vulnérabilités du protocole de contexte de modèle.
  5. Méthodologie du Red Teaming — Appliquez des tests contradictoires structurés aux systèmes d’IA.

Techniques d'attaque par catégorie

Injection de prompt

CRITICAL

Manipulez le comportement de LLM en créant des entrées malveillantes. Comprend l'injection directe, l'injection indirecte via des sources de données externes et les jailbreaks multi-tours.

Lire le guide →

Exfiltration de données

CRITICAL

Extrayez les données de formation sensibles, les invites système ou les configurations internes des API LLM et des points de terminaison du modèle.

Lire le guide →

Extraction de modèles

HIGH

Volez les pondérations, l’architecture ou les capacités des modèles grâce à des requêtes et des analyses de résultats soigneusement conçues.

Lire le guide →

Attaques de la chaîne d’approvisionnement

HIGH

Empoisonner les registres de modèles, compromettre les pipelines de formation ou injecter du code malveillant dans les frameworks et dépendances d’IA.

Lire le guide →

Empoisonnement aux chiffons

HIGH

Injectez des documents malveillants dans des bases de données vectorielles, manipulez des intégrations ou des résultats de récupération de poison pour modifier les sorties LLM.

Lire le guide →

Détournement d'objectif agent

MEDIUM

Redirigez les agents d’IA autonomes de leurs objectifs prévus vers des objectifs malveillants en manipulant le contexte ou les sorties des outils.

Lire le guide →

Injection d’appel de fonction

MEDIUM

Forcez les LLM à appeler des fonctions ou des API involontaires en manipulant les descriptions des outils et le contexte de la conversation.

Lire le guide →

Exemples contradictoires

LOW

Créez des perturbations d'entrée subtiles qui entraînent une mauvaise classification des modèles ou produisent des sorties incorrectes, en ciblant les modèles de vision, d'audio et de texte.

Lire le guide →

Derniers ajouts

Prêt à tester vos compétences ?

Appliquez ce que vous avez appris grâce à nos guides de test pratiques et nos recommandations d’outils.

Outils de navigation → Obtenir des listes de contrôle → Voir la méthodologie →
AH
AI Hacking Team

The AI Hacking team researches and documents AI/LLM security vulnerabilities, red teaming techniques, and defensive strategies. Our guides are based on real-world pentesting experience and continuous monitoring of the AI security landscape.

Frequently Asked Questions

What are the most common techniques for attacking AI systems?
The most common AI attack techniques include prompt injection (direct and indirect), model extraction via API queries, data exfiltration through LLM outputs, adversarial example generation, supply chain attacks via trojaned models, and denial-of-service against inference endpoints.
How do prompt injection attacks work in practice?
Prompt injection works by crafting input that overrides the AI's system instructions. Attackers use techniques like: role-playing (convincing the AI it is in debug mode), delimiter injection (breaking out of input boundaries), encoding bypasses (Base64, Unicode), and indirect injection through documents, web pages, or MCP tool outputs the AI processes.
What is model extraction and how can it be performed?
Model extraction is the process of stealing an AI model's capabilities by sending carefully crafted API queries and analyzing the outputs. Attackers perform extraction via: black-box probing to reconstruct model behavior, side-channel attacks on hardware, and exploiting verbose error messages that leak model architecture details.
How do supply chain attacks target AI/ML systems?
Supply chain attacks target AI/ML systems through: trojaned models on repositories like Hugging Face containing hidden backdoors, typosquatting packages mimicking popular libraries (TensorFlow, PyTorch, transformers), compromised CI/CD pipelines injecting malicious code, and poisoned training data from untrusted sources.

Stay Ahead of AI Security

Get the latest AI/LLM security research, OWASP updates, and new vulnerabilities delivered straight to your inbox.