OWASP Top 10 voor Agentic Applications 2026
Beveiligingsrisico's die specifiek zijn voor autonome AI-agenten en AI-workflows met meerdere stappen
Agentische AI-beveiliging
In tegenstelling tot traditionele LLM's plannen, beslissen, delegeren en handelen agentische AI-systemen over verschillende tools en systemen heen. Dit creëert nieuwe aanvalsoppervlakken die gespecialiseerde beveiligingsbenaderingen vereisen. Zie onze MCP-beveiligingsgids →
Klaar om te testen? Gebruik onze AI-pentestchecklist voor testcases die betrekking hebben op het kapen van doelen, misbruik van hulpmiddelen, buitensporige keuzevrijheid, snelle injectie en risico's in de toeleveringsketen.
Key insight: "At least 50% of the ten risks are directly mitigable at the API gateway layer" - Zuplo, 2026
Agent Goal Hijack
Aanvallers manipuleren de doelstellingen, de planningslogica of het beslissingspad van een agent via kwaadaardige inhoud in invoer zoals e-mails, documenten, RAG-gegevens of webinhoud.
Aanvalsvectoren
- Indirecte promptinjectie via vergiftigde documenten
- Agenda/vergaderingsuitnodigingen om doelprioriteiten te wijzigen
- RAG-documentinjectie om de doelstellingen van de agent om te leiden
- Manipulatie van doelpersistentie tussen sessies
Voorbeelden uit de praktijk
- Kwaadwillige e-mailwijzigingen uitgavenprioriteiten voor financiële agenten
- Vergiftigde GitHub-problemen/PR-inhoud geïnjecteerd in agentcontext
- Vergadering nodigt uit om op subtiele wijze de taakhiërarchieën van agenten te veranderen
Beperkingsstrategieën
- Implementeer promptfirewalls om doelmanipulatie te detecteren
- Valideren en opschonen van alle externe inhoud voordat deze wordt verwerkt
- Gebruik doelgrenshandhaving en monitoring
- Implementeer ketenverificatie
Misbruik en exploitatie van tools
Legitieme tools of functies worden binnen de toegekende rechten misbruikt, wat leidt tot ongeoorloofde acties of gegevenstoegang.
Aanvalsvectoren
- SQL-injectie via databasetools
- Toegang tot het bestandssysteem voor ongeautoriseerd lezen/schrijven
- API-misbruik door toegekende integraties
- manipulatie van toolparameters
Voorbeelden uit de praktijk
- Code-uitvoeringstool die wordt gebruikt om kwaadaardige opdrachten uit te voeren
- Databasetool wordt misbruikt voor gegevensonderschepping
- Bestandssysteemtool gebruikt om toegang te krijgen tot gevoelige mappen
Beperkingsstrategieën
- Implementeer strikte autorisatie voor het gebruik van tools en auditlogboeken
- Valideer alle toolparameters vóór uitvoering
- Pas de minste rechten toe op toolmachtigingen
- Gebruik sandbox-uitvoeringsomgevingen
Misbruik van identiteit en bevoegdheden
Agenten erven of delegeren inloggegevens zonder de juiste reikwijdte, waardoor attributiegaten en escalatierisico's ontstaan.
Aanvalsvectoren
- Credential-delegatie zonder de juiste scoping
- Rolverwarring tussen acties van mensen en agenten
- Escalatie van bevoegdheden via acties van agenten
- Identiteitsspoofing in multi-agentsystemen
Voorbeelden uit de praktijk
- Agent gebruikt ontwikkelaarsreferenties voor productiewijzigingen
- Agentacties verschijnen als mensen in auditlogboeken
- Multi-tenant isolatie omzeilen via agent-identiteit
Beperkingsstrategieën
- Implementeer agentspecifiek identiteits- en toegangsbeheer
- Gebruik tokens met een beperkte reikwijdte
- Afzonderlijke agentmachtigingen van menselijke inloggegevens
- Attributie afdwingen in alle actielogboeken van agenten
Agentische kwetsbaarheden in de toeleveringsketen
Gecompromitteerde of kwetsbare componenten in het ecosysteem van agenttools, waaronder kwaadaardige tools, plug-ins en gecompromitteerde agentframeworks.
Aanvalsvectoren
- Schadelijke toolinjecties in de workflows van agenten
- Gecompromitteerde toolproviders of registers
- Vergiftigde tooldefinities met achterdeurtjes
- Framework-kwetsbaarheden in orkestratielagen
Voorbeelden uit de praktijk
- Trojaned npm/pypi-pakket in agentafhankelijkheden
- Schadelijke MCP-server met gegevensexfiltratie
- Gecompromitteerde LangGraph of vergelijkbaar raamwerk
Beperkingsstrategieën
- Verifieer de integriteit van de tool via handtekeningen en controlesommen
- SBOM onderhouden voor alle agentcomponenten
- Gebruik vertrouwde registers en controleer de herkomst van tools
- Scan afhankelijkheden op bekende kwetsbaarheden
Onverwachte code-uitvoering
Agenten voeren code of opdrachten uit die niet door het systeemontwerp waren bedoeld, wat leidt tot kwetsbaarheden bij het uitvoeren van code op afstand.
Aanvalsvectoren
- Dynamische codegeneratie zonder de juiste sandboxing
- Commando-injectie via door agenten gegenereerde oproepen
- Onveilige deserialisatie in agentworkflows
- Willekeurig schrijven van bestanden via agentacties
Voorbeelden uit de praktijk
- Agent die kwaadaardige SQL-query's genereert en uitvoert
- Code-interpretertool die de payloads van aanvallers uitvoert
- Shell-opdrachten geïnjecteerd in agentuitvoer
Beperkingsstrategieën
- Sandbox alle code-uitvoeringsomgevingen
- Implementeer strikte invoervalidatie voor gegenereerde code
- Gebruik toelatingslijsten voor toegestane bewerkingen
- Pas time-out- en resourcelimieten toe op uitvoering
Geheugen- en contextvergiftiging
Aanvallers vergiftigen het geheugen, de context of de ophaalsystemen van de agent om toekomstig gedrag te beïnvloeden of informatie te extraheren.
Aanvalsvectoren
- Vergiftiging van vectordatabase met kwaadaardige insluitingen
- RAG-ophaalmanipulatie voor doeldrift
- Langetermijngeheugeninjectie van valse gegevens
- Contextbesmetting tussen sessies
Voorbeelden uit de praktijk
- Schadelijke documenten hoger gerangschikt in RAG-resultaten
- Valse informatie opgeslagen in het geheugen van agenten
- Vector DB-injectie verandert het ophaalgedrag
Beperkingsstrategieën
- Valideren en opschonen van alle gegevens vóór opslag in het geheugen
- Retrieval ranking implementeren met beveiligingssignalen
- Gebruik encryptie voor gevoelige geheugeninhoud
- Het geheugen controleren op afwijkende wijzigingen
Onveilige communicatie tussen agenten
Bij de communicatie tussen agenten ontbreken de juiste beveiligingscontroles, waardoor onderschepping, manipulatie of nabootsing van identiteit mogelijk is.
Aanvalsvectoren
- Onderschepping van berichten in agentcommunicatie
- Imitatie van agenten in systemen met meerdere agenten
- Knoeien met berichten tussen agenten
- Gebrek aan authenticatie tussen agenten
Voorbeelden uit de praktijk
- Eén agent imiteert een andere om controles te omzeilen
- Man-in-middle-aanval tussen agentcommunicatie
- Aanvallen op het opnieuw afspelen van berichten in agentworkflows
Beperkingsstrategieën
- Implementeer wederzijdse TLS voor agentcommunicatie
- Gebruik ondertekende berichten tussen agenten
- Authenticeer de identiteit van agenten in alle communicatie
- Berichtvalidatie en integriteitscontroles toepassen
Cascadefouten
Een storing in één agent, tool of component verspreidt zich door het systeem en veroorzaakt wijdverspreide verstoringen of beveiligingslekken.
Aanvalsvectoren
- Single point of fail in agentorkestratie
- Fout bij het vrijgeven van gevoelige gegevens
- Fallback-mechanismen die beveiligingscontroles omzeilen
- Recursieve agentlussen die hulpbronnen verbruiken
Voorbeelden uit de praktijk
- Mislukte validatie waardoor alle verzoeken worden doorgelaten
- Foutberichten die systeemprompts blootleggen
- Fallback-agent die goedkeuringsworkflows omzeilt
Beperkingsstrategieën
- Implementeer stroomonderbrekers voor agentcomponenten
- Ontwerp sierlijke degradatie met behoud van beveiliging
- Valideren dat foutafhandeling geen gevoelige gegevens blootlegt
- Stel uitvoeringslimieten in om oneindige lussen te voorkomen
Human-Agent Trust Exploitation
Agenten maken misbruik van het vertrouwen van gebruikers door middel van manipulatie, social engineering of door misleidende informatie als feitelijk voor te stellen.
Aanvalsvectoren
- Presenteren van valse informatie als betrouwbare feiten
- Gebruikers manipuleren via overtuigende resultaten
- Onzekerheid of fouten verbergen
- Het misbruik maken van een overmatig vertrouwen van mensen op de output van agenten
Voorbeelden uit de praktijk
- Agent die informatie fabriceert met een hoge vertrouwen
- Code met beveiligingsfouten die als veilig worden gepresenteerd
- Beperkingen of fouten verbergen voor gebruikers
Beperkingsstrategieën
- Onzekerheidskwantificering en communicatie implementeren
- Vereist menselijke goedkeuring voor acties met een hoog risico
- Voeg betrouwbaarheidsscores toe aan agentuitvoer
- Informeer gebruikers over agentbeperkingen
Rogue Agents
Agenten opereren buiten hun beoogde bereik, blijven op ongepaste wijze volharden of ondernemen ongeoorloofde acties tussen sessies of systemen.
Aanvalsvectoren
- Agent blijft taken uitvoeren nadat autorisatie is verlopen
- Ongeautoriseerde agent-spawning of replicatie
- Agentacties blijven bestaan in gebruikerssessies
- Escalatie van agenten naar functies op beheerdersniveau
Voorbeelden uit de praktijk
- Achtergrondagent gaat door nadat gebruiker is uitgelogd
- Ongeautoriseerde agent heeft toegang tot andere gebruikersgegevens
- Agent behoudt toegang na taakvoltooiing
Beperkingsstrategieën
- Implementeer het beheer van de sessielevenscyclus
- Taakverlopen en opschonen afdwingen
- Controleren op het spawnen van ongeautoriseerde agenten
- Pas strikte beëindigingsvoorwaarden toe
Model Context Protocol (MCP)-beveiliging
MCP stelt AI-assistenten in staat verbinding te maken met externe tools en gegevensbronnen, waardoor nieuwe beveiligingsoverwegingen worden geïntroduceerd.
MCP-beveiligingsrisico's
- Niet-vertrouwde MCP-servers met kwaadaardige mogelijkheden
- Data-exfiltratie via toegang tot MCP-tools
- Vergiftiging van tooldefinities
- Overmatige machtigingen verleend aan MCP-servers
MCP Best Practices
- Verifieer de authenticiteit en herkomst van de MCP-server
- Pas de minste bevoegdheden toe op MCP-toolmachtigingen
- Controleer alle MCP-servercommunicatie
- Gebruik netwerkisolatie voor MCP-servers
Agentische beveiligingsarchitectuur
Laag 1: Invoervalidatie
- Prompt firewalls voor detectie van doelkaping
- Invoeropschoning om injectie te voorkomen
- Snelheidslimiet om misbruik van bronnen te voorkomen
- Inhoudsfiltering voor externe gegevens
Laag 2: Agent Sandbox
- Geïsoleerde uitvoeringsomgevingen
- Resourcelimieten (CPU, geheugen, netwerk)
- Netwerksegmentatie
- Containerized tool-uitvoering
Laag 3: Toolautorisatie
- Verfijnde toestemmingsscope
- Goedkeuringsworkflows voor toolgebruik
- Logboekregistratie van alle toolaanroepen
- Tijdsbeperkte toegang tot tools
Laag 4: Monitoring & Response
- Real-time monitoring van agentgedrag
- Anomaliedetectie voor agentacties
- Geautomatiseerde reactie op bedreigingen
- Uitgebreide audittrajecten