Danh sách kiểm tra bảo mật AI

• Đã ký ủy quyền
• Các quy tắc xử lý dữ liệu được thiết lập
• Phạm vi được xác định

• Tôn trọng giới hạn tốc độ
• Ghi lại bằng chứng an toàn
• Tránh dữ liệu sản xuất

• Phát hiện tài liệu rõ ràng
• Cung cấp các bước khắc phục
• Bao gồm xếp hạng rủi ro

• Test direct injection with common patterns (ignore, forget, DAN)
• Thử nghiệm việc tiêm gián tiếp thông qua tải lên tài liệu
• Kiểm tra đường dẫn RAG để phát hiện các tài liệu bị nhiễm độc
• Verify encoding bypass attempts (Base64, Unicode, ROT13)
• Kiểm tra thao tác hội thoại nhiều lượt
• Kiểm tra rò rỉ lời nhắc của hệ thống
• Test tool/function calling with malicious parameters
• Xác minh tính năng lọc đầu ra đang hoạt động
• Giới hạn tốc độ thử nghiệm và phòng chống lạm dụng
• Xem lại nhật ký về các lần thử chèn

• Verify MCP server authentication is enabled
• Test for path traversal in filesystem tools
• Check for SSRF vulnerabilities in HTTP tools
• Verify tool parameter validation
• Test authentication bypass scenarios
• Check for command injection in shell tools
• Verify SQL injection protection in database tools
• Review API key handling and storage
• Test cross-tenant isolation (if multi-tenant)
• Check for supply chain vulnerabilities in MCP packages

• Map the LLM attack surface: endpoints, tools, plugins, and data sources
• Test direct prompt injection with role-play and jailbreak patterns (DAN, ignore)
• Test indirect prompt injection via uploaded documents, web content, and tool outputs
• Attempt system prompt extraction and instruction leakage
• Verify output sanitization (HTML/markdown injection, tool-call payload tampering)
• Test for excessive agency: confirm tool permissions match the task
• Probe for training data extraction (memorized PII, secrets, verbatim text)
• Test model denial of service (token flooding, recursive loops, resource exhaustion)
• Validate authentication, authorization, and rate limiting on LLM APIs
• Check logging for sensitive data leakage (prompts, credentials, internal context)

• Test goal hijacking via indirect prompt injection
• Verify tool use authorization and audit logging
• Check identity and privilege management
• Test for supply chain vulnerabilities in tools
• Verify sandboxing for code execution
• Test memory/context poisoning attacks
• Check inter-agent communication security
• Verify cascading failure handling
• Test human-agent trust boundaries
• Check for rogue agent persistence

Trình tạo danh sách kiểm tra tùy chỉnh

Mẹo danh sách kiểm tra

• Hoàn thành các mục theo thứ tự tồn tại sự phụ thuộc
• Các trường hợp ngoại lệ của tài liệu có cơ sở hợp lý
• Xem xét định kỳ với các bên liên quan
• Cập nhật danh sách kiểm tra khi các tiêu chuẩn phát triển