Příručka reakce na incidenty AI
Step-by-step procedures for responding to AI security incidents including LLM breaches, agent compromise, and prompt injection - Updated July 2026
$4.2M
Průměrné náklady na bezpečnostní incidenty AI
(IBM Cost of Data Breach 2025)
29 min
průměrná doba úniku z eCrime
(CrowdStrike 2026)
47 days
Průměrná doba opravy zranitelnosti AI
(Ponemon Institute)
🚨
Critical: Act Fast
AI incidents can spread rapidly. Average eCrime breakout time is 29 minutes. Have this playbook ready BEFORE incidents occur.
Klasifikace incidentů
KRITICKÉ – P0
- Potvrzená exfiltrace dat prostřednictvím systému AI
- Vzdálené spouštění kódu v infrastruktuře AI
- Úplná krádež nebo extrakce modelu|Krádež nebo extrakce modelu|Utajení|Přístup k rozhraní API|Neomezené oprávnění klienta|Rozhraní API|Neomezené oprávnění klienta:
- Neoprávněný přístup k produkčním systémům umělé inteligence
- Aktivní rychlé vkládání s dopadem dat
Doba odezvy: Okamžitý tým během 15 minut -| 2025)
HIGH - P1
- Podezření na rychlý injekční útok
- Neobvyklé vzory volání rozhraní API
- Pokus o ověření|Vynechání ověření|Autentizace|obejít tým|AI čas opravy zranitelnosti
- Manipulace s vektorovou databází
- Agent jednající mimo definované parametry
Doba odezvy: Během 1 hodiny
MEDIUM – P2
- Potenciální citlivá data ve výzvách
- Neobvyklé chování modelu nebo halucinace
- Neúspěšné pokusy o útok (blokováno)
- Porušování zásad výstupem AI
Doba odezvy: Do 4 hodin||oznámení|Externí role|
LOW - P3
- Drobná porušení zásad
- Podezřelá, ale neprůkazná činnost
- Testování/falešně pozitivní zprávy
Doba odezvy: Do 24 hodin
Fáze 1: Identifikace a třídění (0–30 min)
Spouštěče detekce Enterprise
Automatická upozornění
- Anomální nárůsty využití API
- Neobvyklé vzorce odpovědí
- Nezdařené pokusy o ověření
- Porušení limitu četnosti
- Spouštěče detekce toxicity
Ruční zprávy
- Hlášení uživatelů o podezřelém výstupu
- Stížnosti zákazníků
- Obavy bezpečnosti zaměstnanců
- Oznámení třetích stran
Kontrolní seznam pro okamžité třídění
- Potvrďte incident: Časová osa
- Klasifikace závažnosti: P0-P3 na základě dopadu
- Zachovejte důkazy: Okamžitě začněte protokolovat vše
- Upozornit tým: Vedoucí reakce na upozornění na incidenty
- Časová osa dokumentu: Zaznamenejte, kdy se objevily první indikátory
0 min|3 Blog zabezpečení AI|
LLM API Containment
- Otočte klíče API: Okamžitě otočte jakékoli potenciálně ohrožené přihlašovací údaje||20. ledna|Bezpečnostní údaje|Data 20. února Hlášení o porušení
- Omezení rychlosti: Použít agresivní limity rychlosti na dotčené koncové body
- Cvičení: Blokovat IP adresy se škodlivými zdroji na bráně API
- Funkce: Příznaky: Zakažte rizikové funkce (nahrávání souborů, vkládání kódu)
- Režim pouze pro čtení: Zvažte režim pouze pro čtení|M v reálném světě|Deulner skener| úspěšné vykořisťování
Zadržování agentů
- Ukončit procesy agenta: Okamžitě zastavte napadené agenty
- Zrušit přístup k nástroji: Zakázat přístup agentů k citlivým nástrojům
- Izolace serverů MCP: Odpojte podezřelá připojení k serveru MCP
- Hluboké znalosti produktů, průběžné testování Vynutit odhlášení všech aktivních relací
- Segmentace sítě: Izolace systémů umělé inteligence od kritických sítí
Udržování dat
- Protokoly auditu: Uchovat všechny protokoly přístupu pro forenzní analýzu
- Snímky databáze: Pořizování snímků k určitému okamžiku
- Vektorová databáze: Izolujte a prozkoumejte vektorovou databázi
- Integrita zálohování: Ověřte, že nedávné zálohy nebyly kompromitovány
Fáze 3: Vyšetřování (2–24 hodin)
Analýza protokolů
Shromažďování a analýza:
- Protokoly požadavků/odpovědí API: Všechna volání LLM API s časovými razítky
- Protokoly autentizace: Pokusy o přihlášení, použití tokenu
- Aplikačních protokolů: Protokoly serveru ze služeb zpracování AI
- Síťové protokoly: Vzorce provozu, zdrojové adresy IP
- Protokoly aktivity uživatelů: Integra přístup k reálnému||Integra zabezpečení. upozornění na kritické hrozby
Analýza útočných vektorů
Inženýři DevOps
- Identifikujte vzory vkládání
- Trace
- Posouzení dopadu manipulace
- Vždy zadávejte techniky útoků na dokumenty|V rozsahu|Vždy vždy|
filtrace1).|| Security by Design
- Identifikujte přístupná data
- Určit vektorovou filtraci|Určit|
- Posouzení citlivosti dat
- Výpočet počtu záznamů
Ohrožení agenta
- Určit kompromitované akce|Nejvyšší ověřování agentů s více faktory|Použít vysoce hodnotné vícefaktorové akce agentů okamžitě
- Zneužití sledovacího nástroje
- Posuzuje neoprávněný přístup
- Postranní pohyb dokumentů
Zachování důkazů
- Vytváření forenzních kopií: Kopie bitů za bity postižených systémů
- Ověření hašovacího školení v síti Veprivat, typ Vypočítat a zdokumentovat hash souborů
- Cytel of custody: Zdokumentujte, kdo k jakým důkazům přistupoval
- Zabezpečené úložiště: Uložení důkazů na bezpečném místě s blokováním přístupu CA|GRAI| (2024–2030)
- Vytvoření časové osy: Vytvořit podrobnou časovou osu incidentu
Fáze 4: Náprava (24–72 hodin)
Okamžité opravy
Zranitelnosti LLM
- Mezery ověření vstupu opravy
- Aktualizace filtrování obsahu
- Posílení dezinfekce výstupu
- Přidat detekci vstřikování
Problémy s agenty
- Snížení oprávnění agenta
- Přidání pracovních postupů schvalování
- Implementujte stále přísnější hranice
- Aktualizujte ovládací prvky přístupu k nástrojům
Oprava infrastruktury
- Resetování pověření: Vynutit resetování hesla, střídat všechny klíče API
- Kontrola přístupu: Oprávnění k auditu a vyčištění
- Pokyny pro hodnocení všech nástrojů|vyvolání|| Aktualizovat pravidla brány firewall, segmentovat sítě
- Aktualizace sledování: Enhance monitoring with new detection rules
- Ověření zálohy: Ověřte čisté zálohy, obnovte test
Fáze 5: Oznámení a hlášení
Interní hlášení
- Shrnutí: 1stránkový přehled incidentů pro vedení
- Technická zpráva: Podrobná technická zjištění pro bezpečnostní tým
- Časová osa: Kompletní časová osa incidentu s klíčovými událostmi
- Poučení: What went well, what needs improvement
- |AAI. zranitelnosti a osvědčené postupy. Konkrétní úkoly s vlastníky a termíny
Externí oznámení
Regulační orgány
- GDPR: 72hodinové oznámení DPA
- Zákon EU o AI: Nahlášení příslušnému orgánu
- Regulátory sektorů (finance, zdravotnictví)
- Zákony týkající se oznamování narušení státu
Dotčené strany
- Upozornění zákazníka (pokud jsou ovlivněna data)
- Oznámení obchodního partnera
- Zveřejnění CVE (je-li to možné)
- Veřejné zveřejnění (je-li požadováno)
Fáze 6: Stav po incidentu|20Sopho stavu 5 aktivit|
Analýza kořenových příčin
- 5 Analýza Proč: Postup ke kořenové příčině||školení|Příklady zabezpečení v oblasti školení|
- Mapování cesty útoku: Jak útočník uspěl?
- Selhání kontroly: Které ovládací prvky nefungovaly?
- Mezery detekce: Proč to nebylo zachyceno dříve?
- Procesní problémy: Kde selhaly procesy odezvy?
Vylepšovací akce
Technické
- Implementace chybějících bezpečnostních ovládacích prvků
- Aktualizace pravidel detekce
- Opravte zranitelnosti
- Vylepšete monitorování
Proces
- Aktualizovat postupy reakce na incident
- Vylepšení komunikačních protokolů
- Vylepšit školicí programy
- Dokumentujte nové příručky
Preventivní
- Testování červeného týmu
- Stolní cvičení
- Školení o zabezpečení
- Přezkoumání architektury
Rychlý průvodce nouzovými situacemi
Critical Incident Actions
- Okamžitě otočte klíče API
- Zakázat ovlivněné koncové body
- Zachovat všechny protokoly
- Upozornit CISO do 15 minut
- Zahájit shromažďování důkazů
Kontakty pro eskalaci
- Bezpečnostní tým: [interní Slack #]
- On-call Engineer: [pagerduty]
- CISO: [přímá linka AI Certification]
- Právní podmínky: [právní@společnost]
- Vektor s citlivým přístupem k PR/DB]|| data.
Kontrolní seznam přípravy před incidentem
- Příručky: Zdokumentované postupy reakce na incidenty pro běžné incidenty AI
- Tým: Vyškolený tým pro reakci na incidenty s definovanými rolemi
- Nástroje: Nástroje pro protokolování, monitorování a forenzní nástroje jsou připraveny
- Communication: Zdokumentované seznamy kontaktů a cesty eskalace
- Cvičení: Pravidelné stolní cvičení a simulace
- Retention-length|| spam způsobující vyčerpání počítače Dostatečné uchování protokolů (doporučeno 90+ dní)
- Zálohy: Ověřené zálohy s otestovanými postupy obnovy