Manuel de réponse aux incidents d'IA
Step-by-step procedures for responding to AI security incidents including LLM breaches, agent compromise, and prompt injection - Updated November 2026
Critique : agir rapidement
Les incidents liés à l’IA peuvent se propager rapidement. Le temps moyen d’évasion de la cybercriminalité est de 29 minutes. Préparez ce manuel AVANT que les incidents ne se produisent.
Classification des incidents
CRITIQUE - P0
- Exfiltration de données confirmée via le système d'IA
- Exécution de code à distance sur l'infrastructure d'IA
- Vol ou extraction complet du modèle
- Accès non autorisé aux systèmes d'IA de production
- Injection active d'invites avec impact sur les données
Temps de réponse : Immédiat : activez l'équipe chargée de l'incident dans les 15 minutes
HIGH - P1
- Attaque par injection de prompt suspectée
- Modèles d'appel API inhabituels
- Tentatives de contournement d'authentification
- Falsification de la base de données vectorielles
- Agent agissant en dehors des paramètres définis
Temps de réponse : Dans l'heure qui suit système de post-génération pour :
MEDIUM - P2
- Données sensibles potentielles dans les invites
- Comportement inhabituel du modèle ou hallucinations
- Tentatives d'attaque échouées (bloquées)
- Violation des politiques par la sortie de l'IA
Temps de réponse : Dans les 4 heures
FAIBLE - P3
- Violations mineures des politiques
- Activité suspecte mais non concluante
- Tests/rapports de faux positifs
Temps de réponse : Dans les 24 heures
Phase 1 : Identification et triage (0-30 min)
Déclencheurs de détection
Alertes automatisées
- Pics d'utilisation anormale de l'API
- Modèles de réponse inhabituels
- Tentatives d'authentification échouées
- Violations des limites de taux
- Déclencheurs de détection de toxicité
Rapports manuels
- Rapports d'utilisateurs sur des sorties suspectes
- Plaintes des clients
- Préoccupations en matière de sécurité des employés
- Notifications tierces
Liste de contrôle de triage immédiat
- Confirmez l'incident : S'agit-il d'un véritable événement de sécurité ou d'un faux positif ?
- Classer la gravité : P0-P3 en fonction de l'impact
- Préserver les preuves : Commencez à tout enregistrer immédiatement
- Avertir l'équipe : Alerter le responsable de la réponse aux incidents
- Chronologie du document : Enregistrez l'apparition des premiers indicateurs
Phase 2 : Confinement (30 min - 2 heures)
Confinement de l'API LLM
- Rotation des clés API : Permutez immédiatement toutes les informations d'identification potentiellement compromises
- Limitation de débit : Appliquer des limites de débit agressives aux points de terminaison concernés
- Blocage IP : Bloquer les adresses IP sources malveillantes au niveau de la passerelle API
- Drapeaux de fonctionnalité : Désactiver les fonctionnalités à risque (téléchargements de fichiers, exécution de code)
- Mode lecture seule : Envisager le mode lecture seule pour les systèmes concernés
Confinement des agents
- Terminer les processus de l'agent : Arrêter immédiatement les agents compromis
- Leçon clé Désactiver l'accès des agents aux outils sensibles
- Isoler les serveurs MCP : Déconnecter les connexions suspectes du serveur MCP
- Invalidation de session : Forcer la déconnexion de toutes les sessions actives.
- Segmentation du réseau : Isoler les systèmes d'IA des réseaux critiques
Confinement des données
- Journaux d'audit : Préserver tous les journaux d'accès pour l'analyse médico-légale
- Instantanés de base de données : Prendre des instantanés à un moment précis
- Base de données vectorielles : Isoler et examiner la base de données vectorielles
- Intégrité des sauvegardes : Vérifiez que les sauvegardes récentes n'ont pas été compromises
Phase 3 : Enquête (2 à 24 heures)
Analyse des journaux
Collecter et analyser :
- Journaux de requêtes/réponses d'API : Tous les appels d'API LLM avec horodatage
- Journaux d'authentification : Tentatives de connexion, utilisation de jeton
- Journaux d'application : Journaux du serveur provenant des services de traitement de l'IA
- Journaux réseau : Modèles de trafic, adresses IP sources
- Journaux d'activité des utilisateurs : Qui a accédé à quoi et quand
Analyse des vecteurs d'attaque
Injection de prompt
- Identifier les modèles d'injection
- Source d'injection de trace
- Évaluer l'impact de la manipulation
- Technique d'attaque de documents
Exfiltration de données
- Identifier les données consultées
- Déterminer la méthode d'exfiltration
- Évaluer la sensibilité des données
- Calculer le nombre d'enregistrements
Compromission d'agent
- Identifier les actions compromises
- Utilisation abusive de l'outil de traçage
- Évaluer les accès non autorisés
- Documenter les mouvements latéraux
Préservation des preuves
- Créer des copies médico-légales : Copies bit par bit des systèmes concernés
- Vérification du hachage : Calculer et documenter les hachages de fichiers
- Chaîne de traçabilité : Documenter qui a accédé à quelles preuves
- Stockage sécurisé : Stocker les preuves dans un emplacement sécurisé et à accès contrôlé
- Création d'une chronologie : Créer une chronologie détaillée des incidents
Phase 4 : Correction (24 à 72 heures)
Correctifs immédiats
Vulnérabilités LLM
- Ecarts de validation des entrées de correctifs
- Mettre à jour le filtrage de contenu
- Renforcer la désinfection des sorties
- Ajouter une détection par injection
Problèmes d'agent
- Réduire les autorisations des agents
- Ajouter des workflows d'approbation
- Mettre en œuvre des limites plus strictes
- Mettre à jour les contrôles d'accès aux outils
Remédiation de l'infrastructure
- Réinitialisation des informations d'identification : Forcer la réinitialisation des mots de passe, faire pivoter toutes les clés API
- Révision d'accès : Autorisations d'audit et de nettoyage
- Renforcement du réseau : Mettre à jour les règles de pare-feu, segmenter les réseaux
- Mises à jour du moniteur : Améliorer la surveillance avec de nouvelles règles de détection
- Vérification des sauvegardes : Vérifier les sauvegardes propres, tester la restauration
Phase 5 : Notification et reporting
Rapports internes
- Résumé : Présentation des incidents d'une page pour les dirigeants
- Rapport technique : Résultats techniques détaillés pour l'équipe de sécurité
- Chronologie : Chronologie complète des incidents avec les événements clés
- Leçons apprises : Ce qui s'est bien passé, ce qui doit être amélioré
- Éléments d'action : Tâches spécifiques avec propriétaires et délais
Notifications externes
Organismes de réglementation
- RGPD : notification 72 heures à DPA
- EU AI Act : signaler à l'autorité compétente
- Régulateurs sectoriels (finance, santé)
- Lois de notification des violations de l'État
Parties concernées
- Notification client (si les données sont affectées)
- Notification des partenaires commerciaux
- Divulgation CVE (le cas échéant)
- Divulgation publique (si nécessaire)
Phase 6 : Activités post-incident
Analyse des causes profondes
- Analyse des 5 pourquoi : Explorer la cause profonde
- Cartographie du chemin d'attaque : Comment l'attaquant a-t-il réussi ?
- Échecs de contrôle : Quels contrôles n'ont pas fonctionné ?
- Facunes de détection : Pourquoi cela n'a-t-il pas été détecté plus tôt ?
- Problèmes de processus : Où les processus de réponse ont-ils échoué ?
Actions d'amélioration
Technique
- Implémenter les contrôles de sécurité manquants
- Mettre à jour les règles de détection
- Corriger les vulnérabilités
- Améliorer la surveillance
Processus
- Mettre à jour les procédures de réponse aux incidents
- Améliorer les protocoles de communication
- Améliorer les programmes de formation
- Documenter les nouveaux playbooks
Préventive
- Tests de l'équipe rouge
- Exercices théoriques
- Formation de sensibilisation à la sécurité
- Révision de l'architecture
Référence rapide d'urgence
Actions en cas d'incident critique
- Faites pivoter immédiatement les clés API
- Désactiver les points de terminaison concernés
- Préserver tous les journaux
- Avertir le RSSI dans les 15 minutes
- Commencer la collecte de preuves
Contacts d'escalade
- Équipe de sécurité : [numéro Slack interne]
- Ingénieur de garde : [pagerduty]
- CISO : [ligne directe]
- Juridique : [legal@entreprise]
- RP/Communications : [pr@company]
Liste de contrôle de préparation avant incident
- Playbooks : Procédures de réponse aux incidents documentées pour les incidents d'IA courants
- Équipe : Équipe de réponse aux incidents formée avec des rôles définis
- Outils : Outils de journalisation, de surveillance et d'investigation prêts
- Communication : Listes de contacts et chemins d'escalade documentés
- Pratique : Exercices et simulations réguliers sur table
- Rétention : Conservation suffisante des journaux (plus de 90 jours recommandés)
- Sauvegardes : Sauvegardes vérifiées avec des procédures de restauration testées