Ich hacke
I Sicherheitsressourcen

Angriffsführer-Hub

Umfassende Leitfäden zu KI- und LLM-Sicherheitsangriffstechniken. Jeder Leitfaden enthält Beispiele aus der Praxis, Schweregradbewertungen und Abwehrmaßnahmen.

Anfängerpfad

Neu in der KI-Sicherheit? Befolgen Sie diese empfohlene Lesereihenfolge:

  1. OWASP LLM Top 10 — Verstehen Sie die Landschaft der LLM-Sicherheitsrisiken.
  2. Rompt-Injektionsanleitung — Meistern Sie die LLM-Schwachstelle Nr. 1 mit praktischen Beispielen.
  3. AG-Sicherheit — Erfahren Sie, wie RAG-Systeme vergiftet und manipuliert werden können.
  4. CP-Sicherheit — Erkunden Sie die Schwachstellen des Model Context Protocol.
  5. Red-Teaming-Methodik — Wenden Sie strukturierte kontradiktorische Tests auf KI-Systeme an.

Angriffstechniken nach Kategorie

rompt Injektion

CRITICAL

Manipulieren Sie das LLM-Verhalten, indem Sie böswillige Eingaben erstellen. Beinhaltet direkte Injektion, indirekte Injektion über externe Datenquellen und Multi-Turn-Jailbreaks.

Leitfaden lesen →

Datenexfiltration

CRITICAL

Extrahieren Sie vertrauliche Trainingsdaten, Systemaufforderungen oder interne Konfigurationen aus LLM-APIs und Modellendpunkten.

Leitfaden lesen →

Modellextraktion

HIGH

Stehlen Sie Modellgewichte, Architektur oder Funktionen durch sorgfältig ausgearbeitete Abfragen und Ausgabeanalysen.

Leitfaden lesen →

Angriffe auf die Lieferkette

HIGH

Vergiften Sie Modellregister, kompromittieren Sie Trainingspipelines oder injizieren Sie bösartigen Code in KI-Frameworks und -Abhängigkeiten.

Leitfaden lesen →

RAG-Vergiftung

HIGH

Schleusen Sie bösartige Dokumente in Vektordatenbanken ein, manipulieren Sie Einbettungen oder verfälschen Sie Abrufergebnisse, um LLM-Ausgaben zu verändern.

Leitfaden lesen →

Entführung von Agentenzielen

MEDIUM

Lenken Sie autonome KI-Agenten von ihren beabsichtigten Zielen auf böswillige Ziele um, indem Sie den Kontext oder die Tool-Ausgaben manipulieren.

Leitfaden lesen →

Funktionsaufrufinjektion

MEDIUM

Erzwingen Sie, dass LLMs unbeabsichtigte Funktionen oder APIs aufrufen, indem Sie Toolbeschreibungen und Konversationskontext manipulieren.

Leitfaden lesen →

Kontroverse Beispiele

LOW

Erstellen Sie subtile Eingabestörungen, die dazu führen, dass Modelle falsch klassifiziert werden oder falsche Ausgaben erzeugen, und zielen Sie dabei auf Bild-, Audio- und Textmodelle ab.

Leitfaden lesen →

Neueste Ergänzungen

Sind Sie bereit, Ihre Fähigkeiten zu testen?

Wenden Sie das Gelernte mit unseren praktischen Testleitfäden und Toolempfehlungen an.

rowse-Tools → Holen Sie sich Checklisten → Methodik anzeigen →
AH
AI Hacking Team

The AI Hacking team researches and documents AI/LLM security vulnerabilities, red teaming techniques, and defensive strategies. Our guides are based on real-world pentesting experience and continuous monitoring of the AI security landscape.

Frequently Asked Questions

What are the most common techniques for attacking AI systems?
The most common AI attack techniques include prompt injection (direct and indirect), model extraction via API queries, data exfiltration through LLM outputs, adversarial example generation, supply chain attacks via trojaned models, and denial-of-service against inference endpoints.
How do prompt injection attacks work in practice?
Prompt injection works by crafting input that overrides the AI's system instructions. Attackers use techniques like: role-playing (convincing the AI it is in debug mode), delimiter injection (breaking out of input boundaries), encoding bypasses (Base64, Unicode), and indirect injection through documents, web pages, or MCP tool outputs the AI processes.
What is model extraction and how can it be performed?
Model extraction is the process of stealing an AI model's capabilities by sending carefully crafted API queries and analyzing the outputs. Attackers perform extraction via: black-box probing to reconstruct model behavior, side-channel attacks on hardware, and exploiting verbose error messages that leak model architecture details.
How do supply chain attacks target AI/ML systems?
Supply chain attacks target AI/ML systems through: trojaned models on repositories like Hugging Face containing hidden backdoors, typosquatting packages mimicking popular libraries (TensorFlow, PyTorch, transformers), compromised CI/CD pipelines injecting malicious code, and poisoned training data from untrusted sources.

Stay Ahead of AI Security

Get the latest AI/LLM security research, OWASP updates, and new vulnerabilities delivered straight to your inbox.