AI Hacking
AI-beveiligingsbronnen

AI-zelfbeoordeling van beveiliging

Evalueer de AI-beveiligingshouding van uw organisatie

🔍

Beoordelingsrichtlijnen

Wees eerlijk in uw reacties om echte beveiligingslekken te identificeren

Is er schriftelijke, expliciete toestemming voor alle AI-systemen die u test, inclusief modellen van derden en MCP-servers waarvan u niet de eigenaar bent?

Bestuur

Opmerking: Controleer regionale regelgeving (AVG, AI-wet) en contractuele verplichtingen voordat u gaat testen.

Heeft u de gegevens die uw modellen en agenten aanraken geclassificeerd en persoonlijke productiegegevens uitgesloten van testomgevingen?

Bestuur

Opmerking: Een ongeteste ensceneringskopie van echte klantgegevens is nog steeds gereguleerde gegevens.

Behandelt u modelinvoer als niet-vertrouwd, met een gedocumenteerde grens tussen instructies en opgehaalde of door de gebruiker aangeleverde inhoud?

Prompt Injection

Opmerking: Dit is OWASP LLM01. De meeste echte inbreuken beginnen hier.

Wordt modeluitvoer bij elke downstream-sink behandeld als niet-vertrouwde gegevens, in plaats van rechtstreeks door te geven aan een shell, SQL of sjabloon?

Prompt Injection

Opmerking: OWASP LLM05: Onjuiste uitvoerafhandeling.

Dwingen uw MCP-servers en agenttools authenticatie en autorisatie per tool af, in plaats van elke tool aan een beller bloot te stellen?

Agenten en MCP

Opmerking: Verschillende CVE's uit 2026 scoorden een 10,0 puur omdat SSE-transport zonder vergunning werd verzonden.

Worden agentacties begrensd door de minste privileges, met goedkeuringspoorten en uitgaven- of staplimieten op autonome lussen?

Agenten en MCP

Opmerking: OWASP LLM06: Overmatige keuzevrijheid.

Heeft u controle over wat er in uw RAG-corpus komt en kunt u de gegevens verfijnen, en kunt u een opgehaald deel terugleiden naar een geautoriseerde bron?

Gegevens en ophalen

Opmerking: OWASP LLM04 en LLM08: vergiftiging en inbedding van winkeltoegangscontrole.

Worden geheimen, inloggegevens en systeemprompts uit de context gehouden waar een aanvaller invloed op kan uitoefenen, en wordt voorkomen dat deze worden teruggekaatst?

Gegevens en ophalen

Opmerking: OWASP LLM02 en LLM07.

Registreert u model- en agentactiviteit in een formulier waarmee u kunt reconstrueren wat een verzoek deed, inclusief toolaanroepen en opgehaalde context?

Detectie en respons

Opmerking: Zonder dit kun je een incident helemaal niet onderzoeken.

Bestaat er een gedocumenteerd pad om een ​​model of agent terug te halen zodra een snelle injectie of misbruik van gereedschap wordt vermoed?

Detectie en respons

Opmerking: Het intrekken van inloggegevens en het uitschakelen van tools is beter dan patchen tijdens een incident.

Beoordelingsscore

Voltooi de beoordeling om uw score te zien

-
/ 30

Uitsplitsing van de beoordeling

Per categorie

Op implementatieniveau

Verbetering Aanbevelingen

Voltooi de beoordeling om gepersonaliseerde aanbevelingen te zien...

Frequently Asked Questions

What is an AI security self-assessment?
An AI security self-assessment is a structured evaluation of your organization's AI and LLM security posture. It covers areas like prompt injection readiness, data handling practices, MCP server security, access controls, incident response capabilities, and compliance with AI security standards and regulations.
How do I evaluate my organization's AI security posture?
Evaluate AI security posture by assessing: whether LLM inputs and outputs are properly validated, if MCP tools have appropriate access controls, how training data and model artifacts are protected, whether AI incident response plans exist, and if your team follows secure AI development practices and complies with relevant regulations.
What are the key areas to assess in AI security?
Key AI security assessment areas include: prompt injection defenses, model access controls, API security for LLM endpoints, MCP server configuration, training data protection, output filtering and leakage prevention, supply chain security for ML dependencies, and compliance with frameworks like NIST AI RMF and EU AI Act.
How often should AI security assessments be performed?
AI security assessments should be performed at least quarterly, plus whenever significant changes are made to AI systems. Trigger events include: deploying new LLM models, adding MCP tools or resources, changing system prompts, integrating new third-party AI services, or after any AI security incident.
Share: X LinkedIn Reddit HN

Stay Ahead of AI Security

Get the latest AI/LLM security research, OWASP updates, and new vulnerabilities delivered straight to your inbox.