Playbook Respons Insiden AI
Step-by-step procedures for responding to AI security incidents including LLM breaches, agent compromise, and prompt injection - Updated July 2026
$4.2M
Rata-rata biaya insiden keamanan AI
(IBM Cost of Data Breach 2025)
29 min
Waktu breakout rata-rata eCrime
(CrowdStrike 2026)
47 days
Waktu patch kerentanan AI rata-rata
(Ponemon Institute)
🚨
Kritis: Bertindak Cepat
AI incidents can spread rapidly. Average eCrime breakout time is 29 minutes. Have this playbook ready BEFORE incidents occur.
Klasifikasi Insiden
KRITIS - P0
- Pengeluaran data yang dikonfirmasi melalui sistem AI
- Eksekusi kode jarak jauh pada infrastruktur AI
- Menyelesaikan pencurian atau ekstraksi model
- Akses tidak sah ke sistem AI produksi
- Injeksi cepat aktif dengan dampak data
Waktu Respons: Segera - Aktifkan tim insiden dalam waktu 15 menit
TINGGI - P1
- Dugaan serangan injeksi cepat
- Pola panggilan API yang tidak biasa
- Upaya bypass autentikasi
- Perusakan basis data vektor
- Agen yang bertindak di luar parameter yang ditentukan
Waktu Respons: Dalam 1 jam
MEDIUM - P2
- Potensi data sensitif dalam perintah
- Perilaku atau halusinasi model yang tidak biasa
- Upaya serangan yang gagal (diblokir)
- Pelanggaran kebijakan oleh keluaran AI
Waktu Respons: Dalam 4 jam
RENDAH - P3
- Pelanggaran kebijakan kecil
- Aktivitas yang mencurigakan namun tidak meyakinkan
- Pengujian/laporan positif palsu
Waktu Respons: Dalam waktu 24 jam
Fase 1: Identifikasi & Triase (0-30 menit)
Pemicu Deteksi
Peringatan Otomatis
- Lonjakan penggunaan API yang anomali
- Pola respons yang tidak biasa
- Upaya autentikasi yang gagal
- Pelanggaran batas nilai
- Pemicu deteksi toksisitas
Laporan Manual
- Laporan pengguna tentang keluaran yang mencurigakan
- Keluhan pelanggan
- Masalah keamanan karyawan
- Pemberitahuan pihak ketiga
Daftar Periksa Triase Segera
- Konfirmasikan insiden tersebut: Apakah ini peristiwa keamanan nyata atau positif palsu?
- Klasifikasikan tingkat keparahan: P0-P3 berdasarkan dampak
- Pertahankan bukti: Mulai mencatat semuanya dengan segera
- Beri tahu tim: Peringatkan petunjuk respons insiden
- Garis waktu dokumen: Catat kapan indikator pertama muncul
Fase 2: Penahanan (30 menit - 2 jam)
Penahanan API LLM
- Putar kunci API: Segera putar kredensial yang berpotensi disusupi
- Pembatasan nilai: Terapkan batas tarif agresif ke titik akhir yang terpengaruh
- Pemblokiran IP: Blokir IP sumber berbahaya di gateway API
- Tanda fitur: Nonaktifkan fitur berisiko (unggahan file, eksekusi kode)
- Mode baca-saja: Pertimbangkan mode baca-saja untuk sistem yang terpengaruh
Pengendalian Agen
- Hentikan proses agen: Hentikan agen yang disusupi segera
- Cabut akses alat: Nonaktifkan akses agen ke alat sensitif
- Isolasi server MCP: Putuskan koneksi server MCP yang mencurigakan
- Pembatalan sesi: Paksa logout semua sesi aktif
- Segmentasi jaringan: Isolasi sistem AI dari jaringan penting
Penahanan Data
- Log audit: Pertahankan semua log akses untuk analisis forensik
- Cuplikan database: Ambil snapshot tepat waktu
- Database vektor: Isolasi dan periksa basis data vektor
- Integritas cadangan: Verifikasi bahwa cadangan terbaru belum disusupi
Fase 3: Investigasi (2-24 jam)
Analisis Log
Kumpulkan dan analisis:
- Log permintaan/respons API: Semua panggilan API LLM dengan stempel waktu
- Log autentikasi: Upaya login, penggunaan token
- Log aplikasi: Log server dari layanan pemrosesan AI
- Log jaringan: Pola lalu lintas, IP sumber
- Log aktivitas pengguna: Siapa yang mengakses apa dan kapan
Analisis Vektor Serangan
Injeksi Cepat
- Identifikasi pola injeksi
- Sumber injeksi penelusuran
- Menilai dampak manipulasi
- Teknik serangan dokumen
Eksfiltrasi Data
- Identifikasi data yang diakses
- Tentukan metode eksfiltrasi
- Menilai sensitivitas data
- Hitung jumlah catatan
Kompromi Agen
- Identifikasi tindakan yang disusupi
- Pelacakan penyalahgunaan alat
- Menilai akses tidak sah
- Dokumentasi pergerakan lateral
Pelestarian Bukti
- Buat salinan forensik: Salinan sedikit demi sedikit dari sistem yang terkena dampak
- Verifikasi hash: Hitung dan dokumentasikan hash file
- Rantai pengawasan: Dokumentasikan siapa yang mengakses bukti apa
- Penyimpanan aman: Simpan bukti di lokasi yang aman dan aksesnya terkontrol
- Pembuatan garis waktu: Buat garis waktu insiden terperinci
Fase 4: Remediasi (24-72 jam)
Perbaikan Segera
Kerentanan LLM
- Patch kesenjangan validasi masukan
- Perbarui pemfilteran konten
- Memperkuat sanitasi keluaran
- Tambahkan deteksi injeksi
Masalah Agen
- Mengurangi izin agen
- Tambahkan alur kerja persetujuan
- Menerapkan batasan yang lebih ketat
- Perbarui kontrol akses alat
Remediasi Infrastruktur
- Reset kredensial: Paksa penyetelan ulang kata sandi, putar semua kunci API
- Tinjauan akses: Audit dan bersihkan izin
- Pengerasan jaringan: Perbarui aturan firewall, segmen jaringan
- Pembaruan monitor: Tingkatkan pemantauan dengan aturan deteksi baru
- Verifikasi cadangan: Verifikasi cadangan bersih, uji pemulihan
Fase 5: Pemberitahuan & Pelaporan
Pelaporan Internal
- Ringkasan eksekutif: Ikhtisar insiden 1 halaman untuk kepemimpinan
- Laporan teknis: Temuan teknis terperinci untuk tim keamanan
- Garis Waktu: Lengkapi garis waktu insiden dengan peristiwa penting
- Pelajaran yang didapat: Apa yang berjalan dengan baik, apa yang perlu ditingkatkan
- Item tindakan: Tugas khusus dengan pemilik dan tenggat waktu
Pemberitahuan Eksternal
Badan Pengatur
- GDPR: pemberitahuan 72 jam ke DPA
- UU AI UE: Laporkan ke otoritas yang kompeten
- Regulator sektor (keuangan, layanan kesehatan)
- Sebutkan undang-undang pemberitahuan pelanggaran
Pihak yang Terkena Dampak
- Pemberitahuan pelanggan (jika data terpengaruh)
- Pemberitahuan mitra bisnis
- Pengungkapan CVE (jika berlaku)
- Pengungkapan publik (jika diperlukan)
Fase 6: Aktivitas Pasca-Insiden
Analisis Akar Penyebab
- 5 Analisis mengapa: Telusuri hingga ke akar penyebab
- Pemetaan jalur serangan: Bagaimana penyerang berhasil?
- Kegagalan kontrol: Kontrol mana yang tidak berfungsi?
- Deteksi kesenjangan: Mengapa hal ini tidak diketahui sebelumnya?
- Masalah proses: Di mana proses respons gagal?
Tindakan Perbaikan
Teknis
- Terapkan kontrol keamanan yang hilang
- Perbarui aturan deteksi
- Tambal kerentanan
- Tingkatkan pemantauan
Proses
- Perbarui prosedur respons insiden
- Meningkatkan protokol komunikasi
- Meningkatkan program pelatihan
- Dokumentasi pedoman baru
Pencegahan
- Pengujian tim merah
- Latihan table-top
- Pelatihan kesadaran keamanan
- Tinjauan arsitektur
Referensi Cepat Darurat
Tindakan Insiden Kritis
- Rotasi kunci API segera
- Nonaktifkan titik akhir yang terpengaruh
- Pertahankan semua log
- Beri tahu CISO dalam waktu 15 menit
- Mulai pengumpulan bukti
Kontak Eskalasi
- Tim Keamanan: [Slack internal #]
- Insinyur Panggilan: [pagerduty]
- CISO: [jalur langsung]
- Hukum: [legal@perusahaan]
- PR/Komunikasi: [pr@company]
Daftar Periksa Persiapan Pra-Insiden
- Playbook: Prosedur respons insiden yang terdokumentasi untuk insiden AI yang umum
- Tim: Tim respons insiden terlatih dengan peran yang ditentukan
- Alat: Alat logging, pemantauan, dan forensik sudah siap
- Komunikasi: Daftar kontak dan jalur eskalasi didokumentasikan
- Latihan: Latihan dan simulasi di atas meja secara rutin
- Retensi: Retensi log yang memadai (disarankan 90+ hari)
- Cadangan: Cadangan terverifikasi dengan prosedur pemulihan yang diuji