คู่มือการตอบสนองต่อเหตุการณ์ AI
Step-by-step procedures for responding to AI security incidents including LLM breaches, agent compromise, and prompt injection - Updated July 2026
$4.2M
ค่าใช้จ่ายโดยเฉลี่ยสำหรับเหตุการณ์ด้านความปลอดภัยของ AI
(IBM Cost of Data Breach 2025)
29 min
เวลาฝ่าวงล้อมโดยเฉลี่ยของ eCrime
(CrowdStrike 2026)
47 days
เวลาแพตช์ช่องโหว่ AI โดยเฉลี่ย
(Ponemon Institute)
🚨
สำคัญ: ดำเนินการอย่างรวดเร็ว
AI incidents can spread rapidly. Average eCrime breakout time is 29 minutes. Have this playbook ready BEFORE incidents occur.
การจำแนกเหตุการณ์
สำคัญ - P0
- ยืนยันการขโมยข้อมูลที่ได้รับการยืนยันผ่านระบบ AI
- การเรียกใช้โค้ดระยะไกลบนโครงสร้างพื้นฐาน AI
- การโจรกรรมหรือการดึงข้อมูลแบบจำลองให้เสร็จสมบูรณ์
- การเข้าถึงระบบ AI ที่ใช้งานจริงโดยไม่ได้รับอนุญาต
- การแทรกพร้อมท์แบบแอคทีฟพร้อมผลกระทบต่อข้อมูล
เวลาตอบสนอง: ทันที - เปิดใช้งานทีมเหตุการณ์ภายใน 15 นาที
สูง - P1
- สงสัยว่ามีการโจมตีแบบฉีดทันที
- รูปแบบการเรียก API ที่ผิดปกติ
- ความพยายามในการเลี่ยงการรับรองความถูกต้อง
- การดัดแปลงฐานข้อมูลเวกเตอร์
- ตัวแทนที่ดำเนินการนอกพารามิเตอร์ที่กำหนด
เวลาตอบสนอง: ภายใน 1 ชั่วโมง
ปานกลาง - P2
- ข้อมูลที่ละเอียดอ่อนที่อาจเกิดขึ้นในการแจ้งเตือน
- พฤติกรรมหรือภาพหลอนของโมเดลที่ผิดปกติ
- ความพยายามโจมตีล้มเหลว (ถูกบล็อก)
- การละเมิดนโยบายโดยเอาท์พุต AI
เวลาตอบสนอง: ภายใน 4 ชั่วโมง
ต่ำ - P3
- การละเมิดนโยบายเล็กน้อย
- กิจกรรมที่น่าสงสัยแต่ไม่สามารถสรุปผลได้
- การทดสอบ/รายงานผลบวกลวง
เวลาตอบสนอง: ภายใน 24 ชั่วโมง
ระยะที่ 1: การระบุตัวตนและการแยกส่วน (0-30 นาที)
ทริกเกอร์การตรวจจับ
การแจ้งเตือนอัตโนมัติ
- การใช้งาน API ที่ผิดปกติที่เพิ่มขึ้นอย่างรวดเร็ว
- รูปแบบการตอบสนองที่ผิดปกติ
- ความพยายามในการตรวจสอบสิทธิ์ล้มเหลว
- การละเมิดขีดจำกัดอัตรา
- ทริกเกอร์การตรวจจับความเป็นพิษ
รายงานด้วยตนเอง
- รายงานผู้ใช้เกี่ยวกับผลลัพธ์ที่น่าสงสัย
- ข้อร้องเรียนจากลูกค้า
- ข้อกังวลด้านความปลอดภัยของพนักงาน
- การแจ้งเตือนจากบุคคลที่สาม
รายการตรวจสอบ Triage ทันที
- ยืนยันเหตุการณ์: นี่เป็นเหตุการณ์ด้านความปลอดภัยจริงหรือผลบวกลวง?
- จำแนกความรุนแรง: P0-P3 ตามผลกระทบ
- รักษาหลักฐาน: เริ่มบันทึกทุกอย่างทันที
- แจ้งทีมงาน: แจ้งเตือนโอกาสในการตอบสนองเหตุการณ์
- ไทม์ไลน์ของเอกสาร: บันทึกเมื่อตัวบ่งชี้แรกปรากฏขึ้น
ระยะที่ 2: การควบคุม (30 นาที - 2 ชั่วโมง)
การกักเก็บ LLM API
- หมุนเวียนคีย์ API: หมุนเวียนข้อมูลประจำตัวที่อาจถูกบุกรุกทันที
- การจำกัดอัตรา: ใช้การจำกัดอัตราเชิงรุกกับปลายทางที่ได้รับผลกระทบ
- การบล็อก IP: บล็อก IP แหล่งที่มาที่เป็นอันตรายที่เกตเวย์ API
- แฟล็กคุณลักษณะ: ปิดการใช้งานคุณสมบัติที่มีความเสี่ยง (การอัปโหลดไฟล์, การเรียกใช้โค้ด)
- โหมดอ่านอย่างเดียว: พิจารณาโหมดอ่านอย่างเดียวสำหรับระบบที่ได้รับผลกระทบ
การกักกันตัวแทน
- ยุติกระบวนการเอเจนต์: หยุดตัวแทนที่ถูกบุกรุกทันที
- เพิกถอนการเข้าถึงเครื่องมือ: ปิดการใช้งานตัวแทนในการเข้าถึงเครื่องมือที่มีความละเอียดอ่อน
- แยกเซิร์ฟเวอร์ MCP: ยกเลิกการเชื่อมต่อเซิร์ฟเวอร์ MCP ที่น่าสงสัย
- การทำให้เซสชันใช้งานไม่ได้: บังคับให้ออกจากระบบเซสชันที่ใช้งานอยู่ทั้งหมด
- การแบ่งส่วนเครือข่าย: แยกระบบ AI ออกจากเครือข่ายที่สำคัญ
การกักเก็บข้อมูล
- บันทึกการตรวจสอบ: เก็บรักษาบันทึกการเข้าถึงทั้งหมดสำหรับการวิเคราะห์ทางนิติวิทยาศาสตร์
- ภาพรวมฐานข้อมูล: ถ่ายภาพสแนปชอต ณ เวลาใดเวลาหนึ่ง
- ฐานข้อมูลเวกเตอร์: แยกและตรวจสอบฐานข้อมูลเวกเตอร์
- ความสมบูรณ์ของการสำรองข้อมูล: ตรวจสอบการสำรองข้อมูลล่าสุดว่าไม่ถูกบุกรุก
ระยะที่ 3: การตรวจสอบ (2-24 ชั่วโมง)
การวิเคราะห์บันทึก
รวบรวมและวิเคราะห์:
- บันทึกคำขอ/การตอบสนอง API: การเรียก LLM API ทั้งหมดที่มีการประทับเวลา
- บันทึกการตรวจสอบสิทธิ์: ความพยายามในการเข้าสู่ระบบ การใช้โทเค็น
- บันทึกแอปพลิเคชัน: บันทึกของเซิร์ฟเวอร์จากบริการประมวลผล AI
- บันทึกเครือข่าย: รูปแบบการรับส่งข้อมูล, IP ต้นทาง
- บันทึกกิจกรรมของผู้ใช้: ใครเข้าถึงอะไรและเมื่อใด
การวิเคราะห์เวกเตอร์การโจมตี
พร้อมท์การฉีด
- ระบุรูปแบบการแทรก
- แหล่งที่มาของการแทรกการติดตาม
- ประเมินผลกระทบของการจัดการ
- เทคนิคการโจมตีด้วยเอกสาร
การกรองข้อมูล
- ระบุข้อมูลที่เข้าถึง
- กำหนดวิธีการกรอง
- ประเมินความไวของข้อมูล
- คำนวณจำนวนบันทึก
การประนีประนอมของตัวแทน
- ระบุการกระทำที่ถูกบุกรุก
- เครื่องมือติดตามการใช้งานในทางที่ผิด
- ประเมินการเข้าถึงที่ไม่ได้รับอนุญาต
- การเคลื่อนไหวด้านข้างของเอกสาร
การเก็บรักษาหลักฐาน
- สร้างสำเนาทางนิติเวช: สำเนาแบบบิตต่อบิตของระบบที่ได้รับผลกระทบ
- การตรวจสอบแฮช: คำนวณและจัดทำเอกสารแฮชของไฟล์
- Chain of custody: เอกสารที่เข้าถึงหลักฐาน
- พื้นที่เก็บข้อมูลที่ปลอดภัย: จัดเก็บหลักฐานในสถานที่ที่ปลอดภัยและมีการควบคุมการเข้าถึง
- การสร้างไทม์ไลน์: สร้างไทม์ไลน์ของเหตุการณ์โดยละเอียด
ระยะที่ 4: การแก้ไข (24-72 ชั่วโมง)
การแก้ไขทันที
ช่องโหว่ของ LLM
- ช่องว่างในการตรวจสอบความถูกต้องของแพตช์
- อัปเดตการกรองเนื้อหา
- เสริมสร้างการฆ่าเชื้อเอาต์พุต
- เพิ่มการตรวจจับการแทรก
ปัญหาของตัวแทน
- ลดการอนุญาตของตัวแทน
- เพิ่มเวิร์กโฟลว์การอนุมัติ
- ใช้ขอบเขตที่เข้มงวดยิ่งขึ้น
- อัปเดตการควบคุมการเข้าถึงเครื่องมือ
การแก้ไขโครงสร้างพื้นฐาน
- การรีเซ็ตข้อมูลประจำตัว: บังคับให้รีเซ็ตรหัสผ่าน หมุนเวียนคีย์ API ทั้งหมด
- การตรวจสอบการเข้าถึง: ตรวจสอบและล้างสิทธิ์
- การทำให้เครือข่ายแข็งแกร่งขึ้น: อัปเดตกฎไฟร์วอลล์ เครือข่ายเซกเมนต์
- ตรวจสอบการอัปเดต: ปรับปรุงการตรวจสอบด้วยกฎการตรวจจับใหม่
- การตรวจสอบการสำรองข้อมูล: ตรวจสอบการสำรองข้อมูลที่สะอาด การกู้คืนการทดสอบ
ระยะที่ 5: การแจ้งเตือนและการรายงาน
การรายงานภายใน
- บทสรุปผู้บริหาร: ภาพรวมเหตุการณ์ 1 หน้าสำหรับผู้นำ
- รายงานทางเทคนิค: การค้นพบทางเทคนิคโดยละเอียดสำหรับทีมรักษาความปลอดภัย
- ไทม์ไลน์: ดำเนินการไทม์ไลน์เหตุการณ์ให้เสร็จสิ้นด้วยเหตุการณ์สำคัญ
- บทเรียนที่ได้รับ: อะไรผ่านไปด้วยดี สิ่งที่ต้องปรับปรุง
- รายการการดำเนินการ: งานเฉพาะที่มีเจ้าของและกำหนดเวลา
การแจ้งเตือนภายนอก
หน่วยงานกำกับดูแล
- GDPR: การแจ้งเตือนภายใน 72 ชั่วโมงไปยัง DPA
- พระราชบัญญัติ AI ของสหภาพยุโรป: รายงานต่อหน่วยงานที่มีอำนาจ
- หน่วยงานกำกับดูแลภาคส่วน (การเงิน การดูแลสุขภาพ)
- กฎหมายการแจ้งเตือนการละเมิดสถานะ
ฝ่ายที่ได้รับผลกระทบ
- การแจ้งเตือนลูกค้า (หากข้อมูลได้รับผลกระทบ)
- การแจ้งเตือนพันธมิตรธุรกิจ
- การเปิดเผย CVE (ถ้ามี)
- การเปิดเผยต่อสาธารณะ (หากจำเป็น)
ระยะที่ 6: กิจกรรมหลังเหตุการณ์เกิดขึ้น
การวิเคราะห์สาเหตุหลัก
- 5 การวิเคราะห์เหตุผล: เจาะลึกถึงสาเหตุที่แท้จริง
- การแมปเส้นทางการโจมตี: ผู้โจมตีประสบความสำเร็จได้อย่างไร
- ความล้มเหลวในการควบคุม: การควบคุมใดไม่ทำงาน
- ช่องว่างการตรวจจับ: เหตุใดจึงตรวจไม่พบสิ่งนี้ก่อนหน้านี้
- ปัญหากระบวนการ: กระบวนการตอบสนองล้มเหลวที่ใด
การดำเนินการปรับปรุง
ทางเทคนิค
- ใช้การควบคุมความปลอดภัยที่ขาดหายไป
- อัปเดตกฎการตรวจจับ
- ช่องโหว่ของแพตช์
- ปรับปรุงการตรวจสอบ
กระบวนการ
- อัปเดตขั้นตอนการตอบสนองต่อเหตุการณ์
- ปรับปรุงโปรโตคอลการสื่อสาร
- ปรับปรุงโปรแกรมการฝึกอบรม
- จัดทำเอกสาร Playbooks ใหม่
เชิงป้องกัน
- การทดสอบทีม Red
- แบบฝึกหัดบนโต๊ะ
- การฝึกอบรมการรับรู้ด้านความปลอดภัย
- การตรวจสอบสถาปัตยกรรม
ข้อมูลอ้างอิงด่วนในกรณีฉุกเฉิน
การดำเนินการเหตุการณ์สำคัญ
- หมุนเวียนคีย์ API ทันที
- |ปิดการใช้งานตำแหน่งข้อมูลที่ได้รับผลกระทบ
- เก็บรักษาบันทึกทั้งหมด
- บทเรียน:
- เริ่มการรวบรวมหลักฐาน
ผู้ติดต่อในการยกระดับ
- ทีมรักษาความปลอดภัย: [Slack ภายใน #]
- วิศวกรที่เรียกใช้งาน: [หน้าที่เพจ]
- CISO: [สายตรง]
- กฎหมาย: [legal@company]
- ประชาสัมพันธ์/การสื่อสาร: [pr@บริษัท]
รายการตรวจสอบเพื่อเตรียมความพร้อมก่อนเกิดเหตุการณ์
- Playbooks: ขั้นตอนการตอบสนองต่อเหตุการณ์ที่จัดทำเป็นเอกสารสำหรับเหตุการณ์ AI ทั่วไป
- ทีม: ทีมตอบสนองต่อเหตุการณ์ที่ได้รับการฝึกอบรมพร้อมบทบาทที่กำหนดไว้
- เครื่องมือ: พร้อมสำหรับการบันทึก การตรวจสอบ และเครื่องมือทางนิติเวช
- การสื่อสาร: รายชื่อผู้ติดต่อและเส้นทางการยกระดับที่บันทึกไว้
- แนวปฏิบัติ: แบบฝึกหัดและการจำลองบนโต๊ะปกติ
- การเก็บรักษา: การเก็บรักษาบันทึกที่เพียงพอ (แนะนำมากกว่า 90 วัน)
- การสำรองข้อมูล: การสำรองข้อมูลที่ได้รับการยืนยันด้วยขั้นตอนการกู้คืนที่ผ่านการทดสอบแล้ว