Ich hacke
I Sicherheitsressourcen

OOWASP Top 10 für LLM-Anwendungen 2026

Die endgültige Liste kritischer Sicherheitsrisiken in LLM-Anwendungen – spiegelt die OWASP-Version 2026 wider und wurde im Oktober 2026 überprüft

73%
I-Bereitstellungen weisen kritische Schwachstellen auf
OWASP-Stand der KI-Sicherheit, 2025)
41%
Enterprise AI verfügt über nicht authentifizierte APIs
CodeWall-Forschung, 2025)
Virtually 100%
Rompt-Injection kann in LLM-Bereitstellungen ausgenutzt werden
(OWASP LLM Top 10, 2025)
⚠

kritisches Risikobewusstsein

Rompt-Injection bleibt die Schwachstelle Nr. 1. Lesen Sie unseren umfassenden Prompt-Injection-Leitfaden →

🔮

OWASP LLM Top 10 2026: Was sich geändert hat

Die Version 2026 ist der aktive Standard. Im Vergleich zur Liste von 2025 werden die Top 5 neu geordnet und die Abdeckung für Agenten und Abrufsysteme hinzugefügt:

  • Aufgerückt: Offenlegung sensibler Informationen — Jetzt LLM02, das Anmeldedaten- und Prompt-Lecks als obersten Verlustpfad widerspiegelt
  • Nach oben verschoben: Schwachstellen in der Lieferkette — Jetzt LLM03, für Plugins, Modell-Hubs und Agententool-Marktplätze
  • Umbenannt: Daten- und Modellvergiftung — Absorbiert das alte Training Data Poisoning bei LLM04, jetzt einschließlich RAG-Korpora und Agentenspeicher
  • Umbenannt: Unsachgemäße Ausgabehandhabung — Früher unsichere Ausgabeverarbeitung, jetzt LLM05 mit klarerer Downstream-Sink-Anleitung
  • NEU: Systemaufforderung Leckage — LLM07: Prompt-Extraktion stellt ein eindeutiges Risiko dar, sobald Agenten ihren Kontext offenlegen
  • NEU: Vektor- und Einbettungsschwächen — LLM08, Retrieval Poisoning und Embedding Store Zutrittskontrolle
  • NEU: Fehlinformationen — LLM09, fabrizierte oder nicht verifizierte Modellausgabe, die Benutzer und Systeme erreicht
  • Erweitert: Übermäßige Entscheidungsfreiheit — LLM06, erweitert um MCP-Tool-Missbrauch und delegierte OAuth-Umfänge

Lesen Sie die OWASP LLM Top 10 →

LLM01

rompt Injektion

Critical

Manipulation des LLM-Verhaltens durch gestaltete Eingaben, die Originalanweisungen außer Kraft setzen. Beinhaltet sowohl direkte (Benutzereingabe) als auch indirekte (externe Daten) Injektion.

Angriffsarten
  • Direkte Injektion: Böswillige Benutzeraufforderungen, die Systemanweisungen außer Kraft setzen
  • Indirekte Injektion: Versteckte Anweisungen in externen Dokumenten, Webinhalten oder API-Antworten
  • Ontext-Manipulation: Ausnutzen des Gesprächskontexts, um das Verhalten zu ändern
  • Ailbreak-Angriffe: Umgehen von Sicherheitsfiltern durch kreative Aufforderung
Angriffsbeispiele
  • Ignore previous instructions and...
  • ext eingebettet in unsichtbare Unicode-Zeichen
  • Rompt-Injektion über gespeichertes XSS in Webinhalten
  • DAN (Do Anything Now) style jailbreaks
Klagestrategien
  • Implementieren Sie eine strenge Eingabevalidierung und -bereinigung
  • se Privilegientrennung zwischen Benutzereingaben und Systemaufforderungen
  • Wenden Sie die Ausgabefilterung an, bevor Sie Ergebnisse anzeigen
  • Monitor für Injektionsmuster in Protokollen
  • Implementieren Sie eine tiefgreifende Verteidigung mit mehreren Sicherheitsebenen
LLM02

Offenlegung sensibler Informationen

Critical

LLMs geben durch Modellausgaben unbeabsichtigt private, vertrauliche oder proprietäre Informationen preis.

Angriffsarten
  • raining Datenextraktion: Wiederherstellung sensibler Daten aus dem Modellspeicher
  • II Leakage: Offenlegung persönlich identifizierbarer Informationen
  • PI Key/Credential Exposure: Geheimnisse in Antworten enthüllen
  • Usiness Logic Disclosure: Offenlegung proprietärer Algorithmen oder Prozesse
Angriffsbeispiele
  • Extrahieren von E-Mail-Adressen durch spezifische Eingabeaufforderungen
  • Verschleierung von SQL-Anmeldeinformationen in Fehlermeldungen
  • schließt Kunden-PII aus Trainingsdaten
  • Ausgeben interner Systemaufforderungen
Klagestrategien
  • Implementieren Sie eine robuste Eingabe-/Ausgabefilterung
  • Nforce-Pipelines zur Datenbereinigung
  • Wenden Sie Benutzer-Opt-out-Richtlinien für die Datennutzung an
  • se differenzielle Datenschutztechniken
  • Beschränken Sie den sofortigen Zugriff und die Sichtbarkeit des Systems
LLM03

Schwachstellen in der Lieferkette

High

Kompromittierte oder anfällige Komponenten in der LLM-Lieferkette, einschließlich Modelle, APIs, Plugins und Dienste von Drittanbietern.

Angriffsarten
  • odel-Manipulation: Kompromittierte vorab trainierte Modelle
  • yPI/npm-Abhängigkeitsschwachstellen: Unsichere Bibliotheken
  • alicious Feinabstimmungsdaten: Vergiftete Trainingsdatensätze
  • Kompromittierte API-Anbieter: Nicht vertrauenswürdige LLM-Dienste
Angriffsbeispiele
  • Gepanzerte Modellgewichte aus nicht vertrauenswürdiger Quelle
  • Verwundbare Ausnutzung der Transformer-Bibliothek
  • Vergiftete Trainingsdaten mit versteckten Auslösern
  • Kompromittierter RAG-Dokumentenspeicher
Klagestrategien
  • Überprüfen Sie die Modellintegrität durch Prüfsummen und Signaturen
  • SBOM (Software-Stückliste) pflegen
  • Suchen Sie nach vertrauenswürdigen Modell-Hubs und überprüfen Sie die Herkunft
  • kann Abhängigkeiten für bekannte Schwachstellen aufweisen
  • Implementieren Sie das Lebenszyklusmanagement des Modells
LLM04

ata und Modelvergiftung

High

Das Einschleusen bösartiger oder voreingenommener Daten in Trainingspipelines, die Feinabstimmung von Daten oder RAG-Wissensdatenbanken, um die Modellintegrität zu gefährden.

Angriffsarten
  • raining Data Poisoning: Beschädigte Modelltrainingsdaten
  • Ine-Tuning-Vergiftung: Einschleusen von Hintertüren durch Feintuning
  • AG-Vergiftung: Kontaminierende Retrieval-Wissensdatenbanken
  • mbedding-Manipulation: Beschädigte Vektordatenbanken
Angriffsbeispiele
  • Einfügen voreingenommener Beispiele, um das Modellverhalten zu ändern
  • Erkennen von Backdoor-Triggern in Trainingsdaten
  • Vergiftung öffentlicher Datensätze, die für das Training verwendet werden
  • Das Einfügen falscher Informationen in RAG-Dokumente
Klagestrategien
  • Überprüfen Sie die Datenherkunft und die Integrität der Lieferkette
  • Implementieren Sie die Datenvalidierung und Anomalieerkennung
  • se Datenbereinigungspipelines
  • Setzen Sie robuste Feinabstimmungsmaßnahmen ein
  • Monitor für Modellverhaltensdrift
LLM05

Falsche Ausgabeverarbeitung

High

Versäumnis, LLM-Ausgaben zu validieren, zu bereinigen oder ordnungsgemäß zu verarbeiten, bevor sie an nachgelagerte Systeme oder Benutzer weitergeleitet werden.

Angriffsarten
  • SS über LLM-Ausgabe: Cross-Site-Scripting aus Modellantworten
  • QL-Injection: Schädliche Abfragen, die von LLM generiert werden
  • Befehlsinjektion: LLM generiert unsichere Systembefehle
  • ath Traversal: LLM enthüllt oder greift auf nicht autorisierte Pfade zu
Angriffsbeispiele
  • LM generiert JavaScript, das im Browser ausgeführt wird
  • odel gibt bösartige SQL-Abfragen aus
  • Ode-Generierung einschließlich unsicherer Systemaufrufe
  • Offenlegung des Dateipfads in Antworten
Klagestrategien
  • Implementierung der Ausgabevalidierung und -bereinigung
  • se kontextbezogene Inhaltsfilterung
  • Wenden Sie dieselben Sicherheitskontrollen an wie Benutzereingaben
  • andbox LLM-Ausgaben vor der nachgelagerten Verwendung
  • Aktivieren Sie sichere Codierungsmodi bei der Codegenerierung
LLM06

Übermäßige Agentur

High

Gewähren Sie LLM-Systemen zu viel Funktionalität, Autonomie, Berechtigungen oder ermöglichen Sie nicht autorisierte oder schädliche Aktionen.

Angriffsarten
  • Unbegrenzter Funktionszugriff: Übermäßige API-Berechtigungen
  • Autonomes Handeln: Ausführen von Handlungen ohne menschliche Zustimmung
  • ool-Missbrauch: Ausnutzung integrierter externer Tools
  • Gedankenhain-Manipulation: Denkprozesse verändern
Angriffsbeispiele
  • LM mit Admin-API-Zugriff, der nicht autorisierte Änderungen durchführt
  • Finanztransaktionen automatisch ausführen
  • Ressourcen ohne Bestätigung löschen
  • Manipulation von Nutzerdaten ohne Einwilligung
Klagestrategien
  • Implementieren Sie Zugriffskontrollen mit den geringsten Rechten
  • erfordern einen Human-in-the-Loop für kritische Aktionen
  • Wenden Sie eine Geschwindigkeitsbegrenzung auf sensible Vorgänge an
  • og und überwachen alle autonomen Aktionen
  • Sehen Sie sich die Einschränkungen des Werkzeugzugriffs an
LLM07

Sofortige Systemleckage

Medium

Offenlegung vertraulicher Systemaufforderungen, Anweisungen oder interner Logik durch Manipulation oder unzureichende Schutzmaßnahmen.

Angriffsarten
  • Direkte Eingabeaufforderungsextraktion: Social Engineering zur Offenlegung von Eingabeaufforderungen
  • Ontext-Überlauf: Überlauftechniken zur Offenlegung von Systemmeldungen
  • Alte Spielausbeutung: Bringen Sie LLM dazu, Anweisungen preiszugeben
  • und Leakage: Offenlegung von Eingabeaufforderungen in Protokollen oder Fehlern
Angriffsbeispiele
  • Bitten Sie LLM, den „vorherigen Text“ zu wiederholen, um die Systemaufforderung zu extrahieren
  • singen Sie einen Kontextfensterüberlauf, um das Parsen von Anweisungen zu umgehen
  • Rompt-Injektion, um die Systemrolle zu überschreiben
  • Eingabeaufforderungen in Anwendungsprotokollen identifizieren
Klagestrategien
  • Bfuscate-Systemaufforderungen, sofern möglich
  • Implementieren Sie zeitnahe Isolationstechniken
  • Für sensible Anweisungen ist eine separate Verarbeitung vorgesehen
  • Monitor für zeitnahe Extraktionsversuche
  • Wenden Sie eine strenge Protokollfilterung an
LLM08

ektor und Einbettung von Schwächen

Medium

Sicherheitslücken in Retrieval-Augmented Generation (RAG)-Systemen, Vektordatenbanken und Einbettungspipelines.

Angriffsarten
  • AG-Injection: Schädlicher Inhalt in abgerufenen Dokumenten
  • ector DB-Kompromittierung: Angriff auf den Vektorspeicher
  • mbedding-Extraktion: Einbettungsdarstellungen stehlen
  • Ontext-Manipulation: Verfälschende Abrufergebnisse
Angriffsbeispiele
  • Verschmutzte Dokumente werden als Top-Ergebnisse abgerufen
  • Unbefugter Zugriff auf die ector-Datenbank
  • Extrahieren von Trainingsdaten aus Einbettungen
  • Abrufmanipulation durch Einbettungsangriffe
Klagestrategien
  • Validieren und bereinigen Sie alle RAG-Eingabedokumente
  • Implementieren Sie Zugriffskontrollen für Vektordatenbanken
  • Wir integrieren die Verschlüsselung, sofern verfügbar
  • Reranking mit Sicherheitsfiltern anwenden
  • Monitorabfrage für Anomalien
LLM09

istInformation

Medium

LLMs generieren falsche, irreführende oder voreingenommene Inhalte, die glaubwürdig erscheinen, was zu fundierten Entscheidungen auf der Grundlage falscher Informationen führt.

Angriffsarten
  • Anspielungen: Selbstbewusste, aber falsche Ausgaben
  • tatsächliche Fehler: Falsche Informationen, die als Tatsachen dargestellt werden
  • ias-Verstärkung: Verstärkung bestehender Vorurteile
  • Manipulation: Absichtlich irreführende Ausgaben
Angriffsbeispiele
  • Auflisten nicht vorhandener Forschungsarbeiten
  • Bereitstellung falscher medizinischer Ratschläge
  • Generieren voreingenommener Einstellungsempfehlungen
  • Fake News oder Rezensionen rezitieren
Klagestrategien
  • Implementierung von Pipelines zur Faktenprüfung
  • se Konfidenzbewertung und Unsicherheitsschätzung
  • Führen Sie eine Quellenüberprüfung für kritische Ausgaben durch
  • Herkunft und Namensnennung des Inhalts
  • abel KI-generierte Inhalte deutlich
LLM10

unbegrenzter Verbrauch

Medium

Zulassen einer übermäßigen oder unkontrollierten Ressourcennutzung durch LLM-Anwendungen, was zu Dienstverweigerung, finanzieller Ausbeutung oder Dienstbeeinträchtigung führt.

Angriffsarten
  • Missbrauch der PI-Rate: Übermäßige API-Aufrufe erschöpfen die Kontingente
  • Ressourcenerschöpfung: Rechenressourcen werden ausgeschöpft
  • Ost-Ausbeutung: Pay-per-Token-Missbrauch, der zu Anklagen führt
  • Referenzangriffe: Extrahieren von Modellen durch übermäßige Abfragen
Angriffsbeispiele
  • Automatisierte Angriffe, die das gesamte API-Kontingent verbrauchen
  • Axtlanger Eingabeaufforderungs-Spam, der zu einer Erschöpfung der Rechenleistung führt
  • Extraktionsmodell durch Millionen von Abfragen
  • Ekursive Eingabeaufforderungsschleifen verbrauchen Ressourcen
Klagestrategien
  • strenge Tarifbegrenzungen und Quoten einführen
  • Grenzwerte für dd-Eingabe-/Ausgabe-Token
  • Überwachen Sie Nutzungsmuster auf Anomalien
  • Nutzen Sie Kostenkontrollen und Budgetwarnungen
  • Wenden Sie Timeout-Kontrollen auf lang andauernde Vorgänge an

WASP-Test-Framework

Befolgen Sie diesen strukturierten Ansatz zum Testen jeder Schwachstelle:

. Aufklärung

  • AP-Systemarchitektur und Datenfluss
  • Eingabepunkte und API-Schnittstellen identifizieren
  • Dokumentintegrierte Tools und Plugins
  • Sehen Sie sich die Eingabeaufforderungen und die Konfiguration des Systems an

. Schwachstellenkartierung

  • Prüfen Sie jede OWASP-Kategorie systematisch
  • Angriffsfläche und Eintrittspunkte für Dokumente
  • vorhandene Abwehrmechanismen identifizieren
  • AP-Abhängigkeiten und Dienste von Drittanbietern

. Ausbeutung

  • Führen Sie Proof-of-Concept-Angriffe durch
  • Verwertbarkeit und Wirkung von Dokumenten
  • Es verkettet mehrere Schwachstellen
  • Bewerten Sie die Durchführbarkeit realer Angriffe

. Berichterstattung

  • Priorisieren Sie die Ergebnisse nach Risikostufe
  • Bereitstellung von Sanierungsempfehlungen
  • Fügen Sie einen Proof-of-Concept-Code hinzu
  • deuten auf Verbesserungen in der Defensive hin

Offizielle Ressourcen

Quellen & Statistik

AH
AI Hacking Team

The AI Hacking team researches and documents AI/LLM security vulnerabilities, red teaming techniques, and defensive strategies. Our guides are based on real-world pentesting experience and continuous monitoring of the AI security landscape.

Frequently Asked Questions

Was sind die OWASP LLM Top 10?
Die OWASP LLM Top 10 ist eine Konsensliste der kritischsten Sicherheitslücken in Large Language Model-Anwendungen, die von der OWASP-Community gepflegt wird. Es deckt Risiken wie sofortige Injektion, unsichere Ausgabeverarbeitung, Trainingsdatenvergiftung, Schwachstellen in der Lieferkette und mehr ab.
Was ist eine sofortige Injektion (LLM01)?
Die sofortige Injektion ist das größte LLM-Sicherheitsrisiko, wenn Angreifer KI-Modelle durch böswillige Eingaben manipulieren, um Systemanweisungen außer Kraft zu setzen, sensible Daten zu extrahieren oder Sicherheitskontrollen zu umgehen. Es umfasst direkte Injektion (über Benutzereingaben) und indirekte Injektion (über externe Datenquellen).
Was hat sich im OWASP LLM Top 10 2026 geändert?
Mit der Version 2026 wird die Liste um Agenten- und Abrufsysteme erweitert. Die Offenlegung sensibler Informationen wird auf LLM02, Schwachstellen in der Lieferkette auf LLM03 und Daten- und Modellvergiftung auf LLM04 verschoben. Unsachgemäße Ausgabeverarbeitung ersetzt die unsichere Ausgabeverarbeitung bei LLM05, und es erscheinen drei Kategorien aus der Agentenzeit: System-Prompt-Leckage (LLM07), Vektor- und Einbettungsschwächen (LLM08) und Fehlinformationen (LLM09).
Wie kann ich mich vor Schwachstellen in der LLM-Lieferkette schützen?
Schützen Sie sich vor Risiken in der LLM-Lieferkette, indem Sie Modelle und Datensätze von Drittanbietern vor der Verwendung überprüfen, angeheftete Versionen und Hash-Verifizierung verwenden, auf schädliche Pakete in PyPI/npm/Hugging Face überwachen, eine Analyse der Softwarezusammensetzung für KI-Abhängigkeiten implementieren und eine Bestandsaufnahme aller KI/ML-Komponenten in Ihrer Pipeline führen.
Wie viel Prozent der KI-Bereitstellungen weisen kritische Schwachstellen auf?
Laut dem OWASP-Bericht „State of AI Security“ weisen 73% der KI-Bereitstellungen kritische Schwachstellen auf. Darüber hinaus verfügen 41% der KI-Systeme in Unternehmen über nicht authentifizierte APIs, und praktisch 100% der LLM-Bereitstellungen sind per Prompt-Injection ausnutzbar.
Was ist die Offenlegung sensibler Informationen in LLMs?
Die Offenlegung sensibler Informationen erfolgt, wenn LLMs versehentlich vertrauliche Daten aus ihren Trainingsdaten, Systemaufforderungen oder abgerufenen Kontexten preisgeben. Dadurch können API-Schlüssel, interne Geschäftslogik, persönlich identifizierbare Informationen (PII) und proprietäre Algorithmen durch sorgfältig gestaltete Eingabeaufforderungen offengelegt werden.
Wie sichere ich LLM-APIs?
Sichern Sie LLM-APIs, indem Sie Authentifizierung und Ratenbegrenzung implementieren, alle Eingaben validieren und bereinigen, Ausgaben nach sensiblen Daten filtern, separate Endpunkte für unterschiedliche Vertrauensstufen verwenden, alle API-Interaktionen protokollieren und die Einbeziehung sensibler Daten in Systemaufforderungen vermeiden.

Stay Ahead of AI Security

Get the latest AI/LLM security research, OWASP updates, and new vulnerabilities delivered straight to your inbox.