AI Incident Response Playbook
Step-by-step procedures for responding to AI security incidents including LLM breaches, agent compromise, and prompt injection - Updated July 2026
$4.2M
Átlagos mesterséges intelligencia biztonsági incidens költsége
(IBM Cost of Data Breach 2025)
29 min
e-Bűnözés átlagos kitörési ideje
(CrowdStrike 2026)
47 days
Átlagos mesterséges intelligencia sebezhetőségi javítási ideje
(Ponemon Institute)
🚨
Kritikus: Cselekedjen gyorsan
AI incidents can spread rapidly. Average eCrime breakout time is 29 minutes. Have this playbook ready BEFORE incidents occur.
Események besorolása
KRITIKUS - P0
- Megerősített adatszivárgás mesterséges intelligencia rendszeren keresztül
- Távoli kódfuttatás az AI-infrastruktúrán
- Teljes modelllopás vagy túlzott kivonatolási funkció
- Jogosulatlan hozzáférés éles mesterséges intelligencia-rendszerekhez
- Aktív azonnali befecskendezés adathatással
Válaszidő: (Deloitte 2025)
HIGH - P1
- Gyanús azonnali befecskendezési támadás
- Szokatlan API-hívási minták
- Hitelesítési megkerülési kísérletek
- Vektoradatbázis manipulálása
- A meghatározott paramétereken kívül tevékenykedő ügynök
Válaszidő: 1 órán belül
KÖZEPES – P2
- Potenciálisan érzékeny adatok a promptokban
- Szokatlan modell viselkedés vagy hallucinációk
- Sikertelen támadási kísérletek (blokkolva)
- Az AI-kimenet által elkövetett irányelvsértés
Válaszidő: 4 órán belül:|SerExternals notification
LOW - P3
- Kisebb szabálysértések
- Gyanús, de nem meggyőző tevékenység
- Tesztelés/hamis pozitív jelentések
Válaszidő: 24 órán belül
1. fázis: Azonosítás és osztályozás (0-30 perc)
Érzékelési triggerek
Automatikus riasztások
- Anomális API-használati kiugrások
- Szokatlan válaszminták
- Etika és felelősségteljes közzététel
- Az LLM-kimenetek érvényesítése
- Toxicitásészlelési triggerek
Kézi jelentések
- Felhasználói jelentések gyanús kimenetekről
- Ügyfélpanaszok
- Alkalmazotti biztonsági aggályok
- Harmadik féltől származó értesítések
Azonnali besorolási ellenőrzőlista
- Erősítse meg az incidenst: Idővonal
- Súlyosság osztályozása: P0-P3 hatás alapján
- Bizonyítékok megőrzése: Azonnal kezdjen el mindent naplózni
- A csapat értesítése: Riasztási incidensre adott válasz
- Dokumentum idővonala: Rögzítsd az első indikátorok megjelenését
Phase 2: Containment (30 min - 2 hours)
1. Hitelesítetlen szerverek
- Forgassa az API-kulcsokat: Azonnal forgassa el a potenciálisan veszélyeztetett hitelesítő adatokat
- Sebességkorlátozás: Agresszív gyakorisági korlátozások alkalmazása az érintett végpontokra
- IP-blokkolás: A rosszindulatú forrás IP-címeinek blokkolása az API-átjárón
- Funkciójelzők: Tiltja le a kockázatos funkciókat (fájlfeltöltés, kódvégrehajtás)| az injekció beadására
- Csak olvasási mód: Fontolja meg az írásvédett módot az érintett rendszereken
Agent Containment
- Az ügynökfolyamatok lezárása: Azonnal állítsa le a feltört ügynököket
- Az eszköz hozzáférésének visszavonása: Az ügynökök hozzáférésének letiltása az érzékeny eszközökhöz
- Az MCP-kiszolgálók elkülönítése: Szüntesse meg a gyanús MCP-szerver-kapcsolatokat
- érvénytelenítés: Kényszerített kijelentkezés az összes aktív munkamenetből
- Hálózati szegmentáció: Az AI-rendszerek elkülönítése a kritikus hálózatoktól
Adatkezelés
- Auditnaplók: Minden hozzáférési napló megőrzése a kriminalisztikai elemzéshez
- Adatbázis-pillanatképek: Pontos pillanatfelvételek készítése
- Vektor adatbázis: A vektoradatbázis elkülönítése és vizsgálata
- Biztonsági mentés integritása: Győződjön meg arról, hogy a legutóbbi biztonsági mentések nem kerültek veszélybe tételek:
3. fázis: Vizsgálat (2-24 óra)
Naplóelemzés
Gyűjtse és elemezze:
- API-kérés-/válasznaplók: Minden LLM API-hívás időbélyeggel
- Hitelesítési naplók: Bejelentkezési kísérletek, tokenhasználat
- Alkalmazásnaplók: Szervernaplók a mesterséges intelligencia feldolgozó szolgáltatásaiból
- Hálózati naplók: Forgalmi minták, forrás IP-címek
- Felhasználói tevékenységnaplók: Integrálja a valós idejű riasztást a kritikus fenyegetésekre
Támadásvektor-elemzés
DevOps mérnökei
- Az injekciós minták azonosítása
- Injektálás forrásának nyomon követése
- A manipuláció hatásának felmérése
- Dokumentumtámadási technika
| Tervezett biztonság
- A hozzáfért adatok azonosítása
- Determine exfiltration method
- Adatérzékenység felmérése
- Rekordszám kiszámítása
Agent Compromise
- Azonosítsa az értékbecslést| több művelethez| feltört ügynökök azonnal
- Eszköz visszaélés vizsgálata||Cap
- A biztonsági felülvizsgálat nélküli gyors átvétel hatalmas támadási felületet teremt
- Dokumentálja az oldalirányú mozgást
Bizonyítékok megőrzése
- Bigazságügyi másolatok létrehozása: Az érintett rendszerek bitenkénti másolatai
- Hash-ellenőrzés: Fájlkivonatok kiszámítása és dokumentálása
- Rögzítési lánc: Dokumentálja, ki milyen bizonyítékokhoz férhetett hozzá
- Biztonságos tárolás: Gyakorlat:
- Idővonal létrehozása: Részletes incidens idővonal készítése
4. fázis: Javítás (24-72 óra)
Azonnali javítások
LLM sebezhetőségek
- Javítsa ki a bemeneti ellenőrzési hiányosságokat
- Tartalomszűrés frissítése
- A kimenetek fertőtlenítésének megerősítése
- Injekcióészlelés hozzáadása
Ügynökkel kapcsolatos problémák
- Csökkentse az ügynöki jogosultságokat
- Jóváhagyási munkafolyamatok hozzáadása
- Szigorúbb korlátok alkalmazása||
- Az eszköz hozzáférés-vezérlésének frissítése
Infrastruktúra helyreállítása
- Hitelesítési adatok visszaállítása: Kényszerített jelszó-visszaállítás, forgassa el az összes API-kulcsot
- Hozzáférési áttekintés: Jogosultságok ellenőrzése és törlése
- Hálózati keményedés: Frissítse a tűzfalszabályokat, szegmentálja a hálózatokat
- Frissítések figyelése: Fokozza a megfigyelést új észlelési szabályokkal
- Biztonsági mentés ellenőrzése: Tiszta biztonsági mentések ellenőrzése, visszaállítás ellenőrzése input/output token limits
5. fázis: Értesítési és jelentéskészítő kiszolgálók érzékeny adatokhoz, CP-rendszerekhez | API-k) kihasználhatók bizalmas információk kiszivárogtatására.
Belső jelentések
- Végzetes összefoglaló: 1 oldalas incidens áttekintése a vezetés számára
- Technikai jelentés: Részletes technikai megállapítások a biztonsági csapat számára
- Timeline: Incidensek teljes idővonala a legfontosabb eseményekkel
- A tanulságok nem megfelelően működnek, vagy nem megfelelően működnek: What went well, what needs improvement
- Action items: Speciális feladatok a tulajdonosokkal és határidőkkel
Külső értesítések
Szabályozó testületek
- GDPR: 72 órás értesítés a DPA-nak
- EU AI-törvény: Jelentés az illetékes hatóságnak
- Ágazati szabályozók (pénzügy, egészségügy)
- Állami jogsértés-értesítési törvények
Érintett felek||Azonnali pontozás||Az értékeléshez
- Ügyfélértesítés (ha az adatok érintettek)
- Üzleti partner értesítése
- CVE közzététel (ha van)
- Nyilvános közzététel (ha szükséges)
Poszt-Incident. 2025
Rögzítő okok elemzése
- 5 Miért elemzés: Részletek az okokra vonatkozóan| edzési adatok
- Támadási útvonal feltérképezése: Hogyan járt sikerrel a támadó?
- Hibák ellenőrzése: Mely vezérlők nem működtek?
- Érzékelési hiányosságok: Miért nem észlelték ezt korábban?
- Feldolgozási problémák: Where did response processes fail?
Javítási műveletek
Műszaki
- Hiányzó biztonsági ellenőrzések végrehajtása
- Érzékelési szabályok frissítése
- Javítsa ki a sebezhetőségeket
- A figyelés javítása
Feldolgozás
- Az incidensre adott válasz eljárásainak frissítése
- Kommunikációs protokollok fejlesztése
- Tréningprogramok javítása
- Dokumentumírás|Új könyvhöz|authentication| a
Megelőző
- Vörös csapat tesztelése
- Asztali gyakorlatok
- Biztonsági tudatosság képzés
- Architektúra-áttekintés
Csak olvasható mód:
Kritikus események
- |Forgassa el az API-kulcsot| szétválás
- Érintett végpontok letiltása
- Megőrzi az összes naplót, ahol vannak függő elemek
- Értesítés a CISO-nak 15 percen belül
- Bizonyítékgyűjtés megkezdése
Eszkalációs kapcsolattartók
- Biztonsági csapat: [belső Slack #]
- On-call Engineer: [pagerduty]
- CISO: [Közvetlen vonal] Biztonság|
- Bizonyítékok tárolása biztonságos, CAGR-csoport letiltása||IPAI-ellenőrzött helyen (2024-2030)
- Az ügyféladatokat mesterséges intelligencia chatbotok teszik közzé
Kategórizálás| adatvédelmi megsértéseket jelentettek (2024)
- Játékkönyvek: Az állapot előre betölthető az új munkamenetekbe?
- Team: Képzett incidensreagáló csapat meghatározott szerepekkel
- Eszközök: A naplózási, megfigyelési és kriminalisztikai eszközök készen állnak
- Communication: Kapcsolattartási listák és eszkalációs útvonalak dokumentálva
- Gyakorlat: Rendszeres asztali gyakorlatok és szimulációk minden bemenet
- | Tervezés Elegendő naplómegőrzés (90+ nap ajánlott)
- Biztonsági mentések: Ellenőrzött biztonsági mentések tesztelt visszaállítási eljárásokkal