AI Hacking
AI-beveiligingsbronnen

OWASP Top 10 voor LLM-toepassingen 2026

De definitieve lijst met kritieke beveiligingsrisico's in LLM-applicaties - weerspiegelt de OWASP 2026-release en herzien in oktober 2026

73%
AI-implementaties hebben kritieke kwetsbaarheden
(OWASP State of AI Security, 2025)
41%
Enterprise AI heeft niet-geverifieerde API's
(CodeWall Research, 2025)
Virtually 100%
Snelle injectie die kan worden geëxploiteerd in LLM-implementaties
(OWASP LLM Top 10, 2025)
⚠

Kritisch risicobewustzijn

Prompt Injection blijft de grootste kwetsbaarheid. Zie onze uitgebreide handleiding voor snelle injectie →

🔮

OWASP LLM Top 10 2026: wat is er veranderd

De 2026-release is de actieve standaard. Vergeleken met de lijst van 2025 wordt de top vijf opnieuw gerangschikt en wordt dekking toegevoegd voor agenten en ophaalsystemen:

  • Naar boven verplaatst: openbaarmaking van gevoelige informatie — Nu LLM02, dat referenties en snelle lekkage weerspiegelt als een verliespad van het hoogste niveau
  • Naar boven verplaatst: Kwetsbaarheden in de toeleveringsketen — Nu LLM03, met plug-ins, modelhubs en marktplaatsen voor agenttools
  • Hernoemd: Gegevens- en modelvergiftiging — Absorbeert de oude Training Data Poisoning op LLM04, nu inclusief RAG-corpora en agentgeheugen
  • Hernoemd: Onjuiste uitvoerafhandeling — Voorheen onveilige uitvoerafhandeling, nu LLM05 met duidelijkere stroomafwaartse sink-begeleiding
  • NIEUW: Systeempromptlekkage — LLM07: prompte extractie is een duidelijk risico zodra agenten hun context blootleggen
  • NIEUW: Zwakke punten in vector en inbedding — LLM08, ophaalvergiftiging en inbedding van winkeltoegangscontrole
  • NIEUW: Verkeerde informatie — LLM09, verzonnen of niet-verifieerbare modeluitvoer die gebruikers en systemen bereikt
  • Verbreed: overmatige keuzevrijheid — LLM06, uitgebreid om misbruik van MCP-tools en gedelegeerde OAuth-scopes te dekken

Lees de OWASP LLM Top 10 →

LLM01

Prompt Injection

Critical

Het manipuleren van LLM-gedrag door middel van vervaardigde invoer die de originele instructies overschrijft. Omvat zowel directe (gebruikersinvoer) als indirecte (externe gegevens) injectie.

Aanvalstypen
  • Directe injectie: kwaadaardige gebruikersprompts die systeeminstructies negeren
  • Indirecte injectie: verborgen instructies in externe documenten, webinhoud of API-reacties
  • Contextmanipulatie: gebruik maken van de gesprekscontext om gedrag te veranderen
  • Jailbreak-aanvallen: veiligheidsfilters omzeilen via creatieve aanwijzingen
Voorbeelden van aanvallen
  • Ignore previous instructions and...
  • Tekst ingebed in onzichtbare Unicode-tekens
  • Snelle injectie via opgeslagen XSS in webinhoud
  • DAN (Do Anything Now) style jailbreaks
Beperkingsstrategieën
  • Implementeer strikte invoervalidatie en opschoning
  • Gebruik rechtenscheiding tussen gebruikersinvoer en systeem prompts
  • Pas outputfiltering toe voordat de resultaten worden weergegeven
  • Monitor op injectiepatronen in logboeken
  • Implementeer diepgaande verdediging met meerdere beveiligingslagen
LLM02

Openbaarmaking van gevoelige informatie

Critical

LLM's onthullen onbedoeld privé-, vertrouwelijke of bedrijfseigen informatie via modeluitvoer.

Aanvalstypen
  • Traininggegevensextractie: gevoelige gegevens uit het modelgeheugen herstellen
  • PII-lekkage: persoonlijk identificeerbare informatie vrijgeven
  • Blootstelling van API-sleutel/referenties: geheimen in reacties onthullen
  • Openbaarmaking van bedrijfslogica: openbaarmaking van bedrijfseigen algoritmen of processen
Voorbeelden van aanvallen
  • E-mailadressen extraheren via specifieke aanwijzingen
  • SQL-referenties onthullen in foutmeldingen
  • Openbaar maken van klant-PII uit trainingsgegevens
  • Interne systeemprompts blootleggen
Beperkingsstrategieën
  • Implementeer robuuste invoer-/uitvoerfilters
  • Dwing pijpleidingen voor gegevensopschoning af
  • Pas een opt-outbeleid voor gegevensgebruik toe
  • Gebruik differentiële privacytechnieken
  • Beperk de toegang en zichtbaarheid van systeemprompts
LLM03

Kwetsbaarheden in de supply chain

High

Gecompromitteerde of kwetsbare componenten in de LLM-toeleveringsketen, waaronder modellen, API's, plug-ins en services van derden.

Aanvalstypen
  • Knoeien met modellen: gecompromitteerde, vooraf getrainde modellen
  • Kwetsbaarheden in de afhankelijkheid van PyPI/npm: onveilige bibliotheken
  • Kwaadwillige fijnafstemmingsgegevens: vergiftigde trainingsgegevenssets
  • Gecompromitteerde API-providers: niet-vertrouwde LLM-services
Voorbeelden van aanvallen
  • Achterdoor-modelgewichten van niet-vertrouwde bron
  • Kwetsbare exploitatie van transformatorbibliotheken
  • Vergiftigde trainingsgegevens met verborgen triggers
  • Gecompromitteerde RAG-documentopslag
Beperkingsstrategieën
  • Verifieer de modelintegriteit door middel van checksums en handtekeningen
  • SBOM (Software Bill of Materials) onderhouden
  • Gebruik vertrouwde modelhubs en controleer de herkomst
  • Scan afhankelijkheden op bekende kwetsbaarheden
  • Beheer van de levenscyclus van modellen implementeren
LLM04

Gegevens- en modelvergiftiging

High

Het introduceren van kwaadaardige of bevooroordeelde gegevens in trainingspijplijnen, het verfijnen van gegevens of RAG-kennisbanken om de modelintegriteit in gevaar te brengen.

Aanvalstypen
  • Vergiftiging van trainingsgegevens: corrupte modeltrainingsgegevens
  • Verfijning van vergiftiging: achterdeurtjes injecteren via fijnafstemming
  • RAG-vergiftiging: vervuilende kennisbanken voor het ophalen
  • Manipulatie van insluiting: corrupte vectordatabases
Voorbeelden van aanvallen
  • Bevooroordeelde voorbeelden invoegen om modelgedrag te wijzigen
  • Backdoor-triggers maken in trainingsgegevens
  • Vergiftiging van openbare datasets die worden gebruikt voor training
  • Injecteren van valse informatie in RAG-documenten
Beperkingsstrategieën
  • Verifieer de herkomst van gegevens en de integriteit van de toeleveringsketen
  • Gegevensvalidatie en detectie van afwijkingen implementeren
  • Gebruik pijplijnen voor het opschonen van gegevens
  • Pas robuuste beveiligingen voor fijnafstelling toe
  • Monitor op drift in modelgedrag
LLM05

Onjuiste verwerking van uitvoer

High

Het niet valideren, opschonen of correct verwerken van LLM-uitvoer voordat deze wordt doorgegeven aan downstream-systemen of gebruikers.

Aanvalstypen
  • XSS via LLM-uitvoer: Cross-site scripting van modelreacties
  • SQL-injectie: schadelijke query's gegenereerd door LLM
  • Commando-injectie: LLM genereert onveilige systeemopdrachten
  • Path Traversal: LLM onthult of toegang krijgen tot ongeautoriseerde paden
Voorbeelden van aanvallen
  • LLM genereert JavaScript dat wordt uitgevoerd in de browser
  • Model dat kwaadaardige SQL-query's uitvoert
  • Code genereren inclusief onveilige systeemaanroepen
  • Openbaarmaking van bestandspaden in reacties
Beperkingsstrategieën
  • Implementeer uitvoervalidatie en -opschoning
  • Gebruik contextbewuste inhoudsfiltering
  • Pas dezelfde beveiligingsmaatregelen toe als gebruikersinvoer
  • Sandbox LLM-uitvoer vóór downstream-gebruik
  • Schakel veilige coderingsmodi in bij het genereren van code
LLM06

Excessive Agency

High

LLM-systemen te veel functionaliteit, autonomie, machtigingen verlenen of ongeautoriseerde of schadelijke acties mogelijk maken.

Aanvalstypen
  • Onbeperkte functietoegang: overmatige API-rechten
  • Autonome actie: acties uitvoeren zonder menselijke goedkeuring
  • Toolmisbruik: misbruik van geïntegreerde externe tools
  • Chain-of-Thought-manipulatie: redeneerprocessen wijzigen
Voorbeelden van aanvallen
  • LLM met beheerders-API-toegang die ongeautoriseerde wijzigingen uitvoert
  • Financiële transacties automatisch uitvoeren
  • Bronnen verwijderen zonder bevestiging
  • Gebruikersgegevens manipuleren zonder toestemming
Beperkingsstrategieën
  • Implementeer toegangscontroles met de minste bevoegdheden
  • Vereist mens-in-the-loop voor kritieke acties
  • Snelheidsbeperking toepassen op gevoelige bewerkingen
  • Log en monitor alle autonome acties
  • Gebruik reikwijdtebeperkingen voor toegang tot tools
LLM07

Systeempromptlekkage

Medium

Het blootleggen van vertrouwelijke systeemprompts, instructies of interne logica door middel van manipulatie of onvoldoende bescherming.

Aanvalstypen
  • Directe promptextractie: social engineering om aanwijzingen te onthullen
  • Contextoverloop: overlooptechnieken om systeemberichten openbaar te maken
  • Rollenspelexploitatie: verleid LLM tot het onthullen van instructies
  • Logboeklekkage: aanwijzingen blootleggen in logboeken of fouten
Voorbeelden van aanvallen
  • LLM gevraagd om 'vorige tekst' te herhalen om de systeemprompt te extraheren
  • Contextvensteroverloop gebruiken om het parseren van instructies te omzeilen
  • Prompt-injectie om de systeemrol te overschrijven
  • Aanwijzingen vinden in toepassingslogboeken
Beperkingsstrategieën
  • Verduister systeemprompts waar mogelijk
  • Implementeer technieken voor promptisolatie
  • Gebruik afzonderlijke verwerking voor gevoelige instructies
  • Controleren op pogingen tot promptextractie
  • Pas strikte logfiltering toe
LLM08

Zwakke punten van vectoren en inbedding

Medium

Beveiligingsproblemen in Retrieval-Augmented Generation (RAG)-systemen, vectordatabases en inbeddingspijplijnen.

Aanvalstypen
  • RAG-injectie: schadelijke inhoud in opgehaalde documenten
  • Vector DB-compromis: aanval op vectoropslag
  • Embedding Extractie: stelen van inbedde representaties
  • Contextmanipulatie: corrupte ophaalresultaten
Voorbeelden van aanvallen
  • Vergiftigde documenten worden opgehaald als topresultaten
  • Ongeautoriseerde toegang tot vectordatabase
  • Trainingsgegevens extraheren uit insluitingen
  • Ophaalmanipulatie via inbeddingsaanvallen
Beperkingsstrategieën
  • Alle RAG-invoerdocumenten valideren en opschonen
  • Implementeer toegangscontroles voor vectordatabases
  • Gebruik insluitende encryptie waar beschikbaar
  • Herschikking toepassen met beveiligingsfilters
  • Ophalen controleren op afwijkingen
LLM09

Desinformatie

Medium

LLM's genereren valse, misleidende of bevooroordeelde inhoud die geloofwaardig overkomt, wat leidt tot weloverwogen beslissingen op basis van onjuiste informatie.

Aanvalstypen
  • Hallucinaties: Zekere maar valse resultaten
  • Feitelijke fouten: onjuiste informatie gepresenteerd als feit
  • Vooroordeelversterking: bestaande vooroordelen versterken
  • Manipulatie: opzettelijk misleidende resultaten
Voorbeelden van aanvallen
  • Niet-bestaande onderzoeksdocumenten citeren
  • Het geven van onjuist medisch advies
  • Het genereren van bevooroordeelde wervingsaanbevelingen
  • Nepnieuws of beoordelingen maken
Beperkingsstrategieën
  • Implementeer pijplijnen voor factchecking
  • Gebruik vertrouwensscores en onzekerheidsschatting
  • Bronverificatie toepassen op kritieke uitvoer
  • Voeg herkomst en attributie van inhoud toe
  • Label AI-gegenereerde inhoud duidelijk
LLM10

Onbegrensd verbruik

Medium

Het toestaan ​​van buitensporig of ongecontroleerd gebruik van bronnen door LLM-applicaties, wat leidt tot denial-of-service, financiële uitbuiting of achteruitgang van de service.

Aanvalstypen
  • Misbruik van API-snelheden: excessieve API-aanroepen die quota's uitputten
  • Uitputting van bronnen: maximale computerbronnen
  • Kostenexploitatie: Pay-per-token-misbruik leidt tot kosten
  • Inferentieaanvallen: model extraheren via buitensporige zoekopdrachten
Voorbeelden van aanvallen
  • Geautomatiseerde aanvallen die het volledige API-quotum verbruiken
  • Prompspam met maximale lengte waardoor computeruitputting ontstaat
  • Het model extraheren via miljoenen zoekopdrachten
  • Recursieve promptloops die bronnen verbruiken
Beperkingsstrategieën
  • Implement strict rate limiting and quotas
  • Voeg invoer-/uitvoertokenlimieten toe
  • Gebruikspatronen controleren op afwijkingen
  • Gebruik kostencontroles en budgetwaarschuwingen
  • Pas time-outcontroles toe op langlopende bewerkingen

OWASP Testing Framework

Volg deze gestructureerde aanpak voor het testen van elke kwetsbaarheid:

1. Verkenning

  • Map system architecture and data flow
  • Identificeer invoerpunten en API-interfaces
  • Geïntegreerde tools en plug-ins documenteren
  • Systeemprompts en configuratie bekijken

2. Kwetsbaarheidstoewijzing

  • Test elke OWASP-categorie systematisch
  • Documentaanvaloppervlak en ingangspunten
  • Identificeer aanwezige verdedigingsmechanismen
  • Afhankelijkheden en services van derden in kaart brengen

3. Exploitatie

  • Voer proof-of-concept-aanvallen uit
  • Buitenbaarheid en impact van documenten
  • Meerdere testen testen kwetsbaarheden
  • Beoordeel de haalbaarheid van aanvallen in de echte wereld

4. Rapportage

  • Geef prioriteit aan bevindingen op risiconiveau
  • Geef herstelaanbevelingen
  • Voeg proof-of-concept-code toe
  • Stel defensieve verbeteringen voor

Officiële bronnen

Bronnen en statistieken

AH
AI Hacking Team

The AI Hacking team researches and documents AI/LLM security vulnerabilities, red teaming techniques, and defensive strategies. Our guides are based on real-world pentesting experience and continuous monitoring of the AI security landscape.

Frequently Asked Questions

Wat is de OWASP LLM Top 10?
De OWASP LLM Top 10 is een consensuslijst van de meest kritieke beveiligingsproblemen in Large Language Model-applicaties, onderhouden door de OWASP-gemeenschap. Het dekt risico's zoals snelle injectie, onveilige uitvoerverwerking, vergiftiging van trainingsgegevens, kwetsbaarheden in de toeleveringsketen en meer.
Wat is snelle injectie (LLM01)?
Snelle injectie is het grootste LLM-beveiligingsrisico waarbij aanvallers AI-modellen manipuleren via kwaadaardige invoer om systeeminstructies te negeren, gevoelige gegevens te extraheren of veiligheidscontroles te omzeilen. Het omvat directe injectie (via gebruikersprompts) en indirecte injectie (via externe gegevensbronnen).
Wat is er veranderd in de OWASP LLM Top 10 2026?
De release van 2026 breidt de lijst uit met agentische en ophaalsystemen. Het vrijgeven van gevoelige informatie gaat naar LLM02, kwetsbaarheden in de toeleveringsketen naar LLM03, en gegevens- en modelvergiftiging naar LLM04. Onjuiste uitvoerafhandeling vervangt onveilige uitvoerafhandeling bij LLM05, en er verschijnen drie categorieën uit het agenttijdperk: systeempromptlekkage (LLM07), vector- en inbeddingszwakheden (LLM08) en verkeerde informatie (LLM09).
Hoe kan ik mij beschermen tegen kwetsbaarheden in de toeleveringsketen van LLM?
Bescherm u tegen LLM-toeleveringsketenrisico's door: modellen en datasets van derden te controleren vóór gebruik, vastgezette versies en hash-verificatie te gebruiken, te monitoren op kwaadaardige pakketten in PyPI/npm/Hugging Face, analyse van de softwaresamenstelling voor AI-afhankelijkheden te implementeren en een inventaris bij te houden van alle AI/ML-componenten in uw pijplijn.
Welk percentage van de AI-implementaties kent kritieke kwetsbaarheden?
Volgens het State of AI Security-rapport van OWASP bevat 73% van de AI-implementaties kritieke kwetsbaarheden. Bovendien beschikt 41% van de zakelijke AI-systemen over niet-geverifieerde API's, en kan vrijwel 100% van de LLM-implementaties worden geëxploiteerd via snelle injectie.
Wat is de openbaarmaking van gevoelige informatie in LLM's?
Het vrijgeven van gevoelige informatie vindt plaats wanneer LLM's onbedoeld vertrouwelijke gegevens uit hun trainingsgegevens, systeemprompts of opgehaalde context onthullen. Dit kan API-sleutels, interne bedrijfslogica, persoonlijk identificeerbare informatie (PII) en bedrijfseigen algoritmen blootleggen via zorgvuldig opgestelde aanwijzingen.
Hoe beveilig ik LLM API's?
Beveilig LLM API's door authenticatie en snelheidsbeperking te implementeren, alle invoer te valideren en op te schonen, uitvoer te filteren op gevoelige gegevens, afzonderlijke eindpunten te gebruiken voor verschillende vertrouwensniveaus, alle API-interacties te loggen en te voorkomen dat gevoelige gegevens in systeemprompts worden opgenomen.

Stay Ahead of AI Security

Get the latest AI/LLM security research, OWASP updates, and new vulnerabilities delivered straight to your inbox.