AI 사고 대응 플레이북
Step-by-step procedures for responding to AI security incidents including LLM breaches, agent compromise, and prompt injection - Updated July 2026
$4.2M
평균 AI 보안 사고 비용
(IBM Cost of Data Breach 2025)
29 min
전자 범죄 평균 발생 시간
(CrowdStrike 2026)
47 days
평균 AI 취약성 패치 시간
(Ponemon Institute)
🚨
중요: 빠르게 조치
AI incidents can spread rapidly. Average eCrime breakout time is 29 minutes. Have this playbook ready BEFORE incidents occur.
사고 분류
중요 - P0
- AI 시스템을 통한 확인된 데이터 유출
- AI 인프라에서 원격 코드 실행
- 모델 도난 또는 추출 완료
- 프로덕션 AI 시스템에 대한 무단 액세스
- 데이터 영향이 있는 활성 프롬프트 주입
응답 시간: 즉시 - 15분 이내에 사고 팀 활성화
HIGH - P1
- 신속한 주입 공격이 의심됨
- 비정상적인 API 호출 패턴
- 인증 우회 시도
- 벡터 데이터베이스 변조
- 정의된 매개 변수 외부에서 작동하는 에이전트
응답 시간: 1시간 이내
MEDIUM - P2
- 프롬프트에 잠재적으로 민감한 데이터가 표시됨
- 비정상적인 모델 동작 또는 환각
- 실패한 공격 시도(차단)
- AI 출력에 의한 정책 위반
응답 시간: 4시간 이내
낮음 - P3
- 경미한 정책 위반
- 의심스럽지만 결론이 나지 않은 활동
- 테스트/오탐지 보고
응답 시간: 24시간 이내
1단계: 식별 및 분류(0-30) min)
탐지 트리거
자동 경고
- 비정상적인 API 사용량 급증
- 비정상적인 응답 패턴
- 인증 시도 실패
- 비율 제한 위반
- 독성 감지 트리거
수동 보고서
- 의심스러운 출력에 대한 사용자 보고
- 고객 불만
- 직원 보안 문제
- 타사 알림
즉시 심사 체크리스트
- 사건 확인: 이것은 실제 보안 이벤트입니까, 아니면 거짓 긍정입니까?
- 심각도 분류: 영향에 따라 P0-P3 업데이트
- 증거 보존: 모든 항목 즉시 로깅 시작
- 팀에 알림: 경보 사고 대응 리드
- 문서 타임라인: 첫 번째 지표가 나타났을 때 기록
2단계: 봉쇄(30분~2시간)
LLM API 격리
- API 키 순환: 잠재적으로 손상된 자격 증명을 즉시 교체
- 속도 제한: 영향을 받은 엔드포인트에 공격적인 속도 제한 적용
- IP 차단: API 게이트웨이에서 악성 소스 IP를 차단합니다.
- 기능 플래그: 위험한 기능(파일 업로드, 코드 실행) 비활성화
- 읽기 전용 모드: 영향을 받는 시스템에 대한 읽기 전용 모드 고려
에이전트 격리
- 에이전트 프로세스 종료: 손상된 에이전트 즉시 중지
- 도구 액세스 취소: 민감한 도구에 대한 에이전트 액세스 비활성화
- MCP 서버 격리: 의심스러운 MCP 서버 연결 끊기
- 세션 무효화: 모든 활성 세션 강제 로그아웃
- 네트워크 분할: 중요 네트워크에서 AI 시스템 격리
데이터 격리
- 감사 로그: 법의학 분석을 위한 모든 액세스 로그 보존
- 데이터베이스 스냅샷: 특정 시점 스냅샷 만들기
- 벡터 데이터베이스: 벡터 데이터베이스 분리 및 검사
- Backup integrity: 최근 백업이 손상되지 않았는지 확인
3단계: 조사(2~24시간)
로그 분석
수집 및 분석:
- API 요청/응답 로그: 타임스탬프가 있는 모든 LLM API 호출
- 인증 로그: 로그인 시도, 토큰 사용
- 애플리케이션 로그: AI 처리 서비스의 서버 로그
- 네트워크 로그: 트래픽 패턴, 소스 IP
- 사용자 활동 로그: 누가 무엇에 언제 액세스했는지
공격 벡터 분석
프롬프트 주입
- 주입 패턴 식별
- 삽입 소스 추적
- 조작 영향 평가
- 문서 공격 기술
데이터 유출
- 액세스된 데이터 식별
- 반출 방법 결정
- 데이터 민감도 평가
- 레코드 수 계산
에이전트 손상
- 손상된 작업 식별
- 추적 도구 오용
- 무단 액세스 평가
- 문서 측면 이동
증거 보존
- 포렌식 복사본 생성: 영향을 받은 시스템의 비트 단위 복사본
- 해시 확인: 파일 해시 계산 및 문서화
- 관리 연속성: 누가 어떤 증거에 액세스했는지 문서화하세요
- 보안 저장소: 안전하고 액세스가 통제된 위치에 증거 저장
- 타임라인 생성: 자세한 사건 타임라인 구축
4단계: 해결(24~72시간)
즉시 수정
LLM 취약점
- 입력 검증 공백 패치
- 콘텐츠 필터링 업데이트
- 출력 삭제 강화
- 주입 탐지 추가
에이전트 문제
- 에이전트 권한 감소
- 승인 워크플로 추가
- 보다 엄격한 경계 구현
- 도구 액세스 제어 업데이트
인프라 해결
- 자격 증명 재설정: 비밀번호 재설정 강제, 모든 API 키 교체
- 액세스 검토: 권한 감사 및 정리
- 네트워크 강화: 방화벽 규칙 업데이트, 네트워크 분할
- 업데이트 모니터링: 새로 모니터링 강화 탐지 규칙
- 백업 확인: 클린 백업 확인, 복원 테스트
5단계: 알림 및 보고
내부 보고
- 실행 요약: 리더십을 위한 1페이지 분량의 사건 개요
- 기술 보고서: 보안 팀을 위한 자세한 기술 조사 결과
- Timeline: 주요 이벤트로 사건 타임라인 전체
- 학습한 교훈: 잘 된 점, 개선이 필요한 점
- 작업 항목: 소유자와 기한이 있는 특정 작업
외부 알림
규제 기관
- GDPR: DPA에 72시간 알림
- EU AI 법: 관할 당국에 보고
- 부문 규제 기관(금융, 의료)
- 상태 위반 알림 법률
영향을 받는 당사자
- 고객 알림(데이터가 영향을 받는 경우)
- 비즈니스 파트너 알림
- CVE 공개(해당하는 경우)
- 공개(필요한 경우)
6단계: 사고 후 활동
근본 원인 분석
- 5 분석 이유: 근본 원인 드릴다운
- 공격 경로 매핑: 공격자는 어떻게 성공했나요?
- 제어 실패: 어떤 컨트롤이 작동하지 않았나요?
- 탐지 공백: 왜 이전에 발견되지 않았습니까?
- 프로세스 문제: 대응 프로세스가 실패한 곳은 어디입니까?
개선 조치
기술
- 누락된 보안 제어 구현
- 탐지 규칙 업데이트
- 취약점 패치
- 모니터링 강화
프로세스
- 사고 대응 절차 업데이트
- 통신 프로토콜 개선
- 교육 프로그램 강화
- 새 플레이북 문서화
예방
- 레드팀 테스트
- 테이블 탑 연습
- 보안 인식 교육
- 아키텍처 검토
긴급 빠른 참조
중요한 사고 조치
- API 키 즉시 순환
- 영향을 받은 엔드포인트 비활성화
- 모든 로그 보존
- 15분 이내에 CISO에 알림
- 증거 수집 시작
에스컬레이션 연락처
- 보안 팀: [내부 Slack #]
- 당직 엔지니어: [pagerduty]
- CISO: [직통]
- 법률: [legal@company]
- PR/커뮤니케이션: [pr@company]
사전 준비 체크리스트
- 플레이북: 일반적인 AI 사고에 대해 문서화된 사고 대응 절차
- 팀: 역할이 정의된 사고 대응 팀 훈련
- 도구: 로깅, 모니터링 및 포렌식 도구 준비됨
- 통신: 문서화된 연락처 목록 및 에스컬레이션 경로
- 연습: 정기적인 테이블톱 연습 및 시뮬레이션
- 보존: 충분한 로그 보존(90일 이상 권장)
- 백업: 테스트된 복원 절차로 백업 확인