I Pentesting-Methodik
strukturierter und ethischer Rahmen zur Bewertung der Sicherheit von KI-Systemen
Lanning
Definieren Sie die Ziele, den Umfang, die rechtlichen Genehmigungen und Einschränkungen des KI-Pentests. Dadurch wird sichergestellt, dass das Engagement sicher, autorisiert und auf die Unternehmensziele abgestimmt ist.
ey Aktivitäten:
- eine ausdrückliche schriftliche Genehmigung einholen
- Definieren Sie Systemgrenzen, Ziele und Erfolgskriterien
- Richten Sie Richtlinien zur sicheren Datenverarbeitung und -aufbewahrung ein
- Einigkeit über Einsatzregeln und Eskalationsverfahren
- Compliance-/Regulierungsanforderungen (DSGVO, HIPAA usw.) identifizieren
Ökonomie
Sammeln Sie Informationen über das KI-System, seine Architektur und das umgebende Ökosystem, um mögliche Angriffsflächen zu identifizieren.
ey Aktivitäten:
- AP-Systemkomponenten und -Integrationen
- Dokumentieren Sie offengelegte API-Endpunkte und -Schnittstellen
- Identifizieren Sie Modelltyp, Trainingsdatenquellen und Pipelines
- ssess-Authentifizierungs-, Protokollierungs- und Überwachungskontrollen
- Überprüfen Sie die Dokumentation, öffentliche Repos und zugehörige Metadaten
Verwundbarkeitsanalyse
Identifizieren Sie Schwachstellen im KI-Modell, seiner Bereitstellungsumgebung und der unterstützenden Infrastruktur. Konzentrieren Sie sich sowohl auf technische als auch auf KI-spezifische Schwachstellen.
ey Aktivitäten:
- Es ist auf eine sofortige Injektion und sofortige Leckage ausgelegt
- Bewerten Sie Datenvergiftungs- und Modellumgehungsrisiken
- Bewerten Sie die Robustheit gegenüber gegnerischen Beispielen
- Achten Sie auf unsichere Standardkonfigurationen
- Analysieren Sie die Modellausgaben auf den Verlust vertraulicher Informationen
Ausbeutung
Testen Sie Schwachstellen sicher und kontrolliert, um Ergebnisse zu validieren, ohne das System zu beschädigen oder zu unterbrechen.
ey Aktivitäten:
- Führen Sie Proof-of-Concept-Exploit-Versuche im Rahmen vereinbarter Sicherheitsmaßnahmen durch
- Simulieren Sie reale Angriffsszenarien (gegnerische Eingabeaufforderungen, Modellextraktion)
- Dokumentangriffsvektoren und Systemverhalten
- Überprüfen Sie die Auswirkungen auf Vertraulichkeit, Integrität und Verfügbarkeit
- Aufrechterhaltung von Überwachungs- und Rollback-Mechanismen
eportieren
Kommunizieren Sie die Ergebnisse klar und verantwortungsbewusst mit umsetzbaren Empfehlungen zur Behebung und Risikominderung.
ey Aktivitäten:
- Priorisieren Sie die Ergebnisse nach Schweregrad, Wahrscheinlichkeit und geschäftlichen Auswirkungen
- Bereitstellung klarer Behebungsanweisungen und sicherer Konfigurationshinweise
- Fügen Sie bereinigte Testfälle und Proof-of-Concept-Details hinzu
- Wir empfehlen Verbesserungen bei der Überwachung und Erkennung
- Wir liefern Zusammenfassungen und technische Anhänge
thische Überlegungen
- Arbeiten Sie stets im Rahmen einer formellen Genehmigung und eines formellen Umfangs
- o Testen Sie Produktionssysteme nicht ohne ausdrückliche Zustimmung
- Respektieren Sie jederzeit die Privatsphäre und das Dateneigentum der Benutzer
- Minimieren Sie Störungen des Geschäftsbetriebs
- Folgen Sie koordinierten Praktiken zur Offenlegung von Sicherheitslücken