Metodologia Pentestowania AI
Ustrukturyzowane i etyczne ramy oceny bezpieczeństwa systemu AI
Planowanie
Define the objectives, scope, legal permissions, and constraints of the AI pentest. This ensures the engagement is safe, authorized, and aligned with organizational goals.
Kluczowe działania:
- Uzyskaj wyraźną pisemną autoryzację
- Zdefiniuj granice systemu, cele i kryteria sukcesu
- Ustal zasady bezpiecznego przetwarzania i przechowywania danych
- Uzgodnij zasady zaangażowania i procedury eskalacji
- Identyfikacja zgodności/wymagań prawnych (RODO, RODO, HIPAA itp.)
Rekonesans
Gather information about the AI system, its architecture, and its surrounding ecosystem to identify possible attack surfaces.
Kluczowe działania:
- Mapuj komponenty i integracje systemu
- Ujawnianie punktów końcowych i interfejsów API dokumentu
- Identyfikacja typu modelu, dane szkoleniowe źródła i rurociągi
- Ocena kontroli uwierzytelniania, rejestrowania i monitorowania
- Przejrzyj dokumentację, publiczne repozytoria i powiązane metadane
Analiza podatności
Identify weaknesses in the AI model, its deployment environment, and supporting infrastructure. Focus on both technical and AI-specific vulnerabilities.
Kluczowe działania:
- Test pod kątem szybkiego wstrzyknięcia i szybkiego wycieku
- Ocena ryzyka zatrucia danych i obejścia modelu
- Oceń odporność na kontradyktoryjne przykłady
- Sprawdź niebezpieczne konfiguracje domyślne
- Analiza wyników modelu pod kątem wycieku poufnych informacji
Wykorzystywanie
Safely test vulnerabilities in a controlled manner to validate findings without causing harm or disruption to the system.
Kluczowe działania:
- Przeprowadzanie prób exploitów w ramach sprawdzenia koncepcji w ramach uzgodnionych zabezpieczeń
- Simulate real-world attack scenarios (adversarial prompts, model extraction)
- Wektory ataków na dokumenty i zachowanie systemu
- Weryfikuj wpływ na poufność, integralność i dostępność
- Utrzymanie mechanizmów monitorowania i wycofywania
Raportowanie
Communicate findings clearly and responsibly, with actionable recommendations for remediation and risk mitigation.
Kluczowe działania:
- Nadawaj priorytety wynikom według ważności, prawdopodobieństwa i wpływu biznesowego
- Zapewnij jasne wskazówki dotyczące środków zaradczych i porady dotyczące bezpiecznej konfiguracji
- Dołącz oczyszczone przypadki testowe i szczegóły koncepcji
- Zalecanie ulepszeń w zakresie monitorowania i wykrywania
- Dostarczanie podsumowań wykonawczych i dodatków technicznych
Względy etyczne
- Zawsze działaj w ramach formalnej autoryzacji i zakresu
- Nie testuj systemów produkcyjnych bez wyraźnej zgody
- Zawsze szanuj prywatność użytkowników i własność danych
- Zminimalizuj zakłócenia w działalności biznesowej
- Przestrzegaj skoordynowanych praktyk ujawniania luk w zabezpieczeniach