Ich hacke
I Sicherheitsressourcen

I Selbsteinschätzung der Sicherheit

Bewerten Sie die KI-Sicherheitslage Ihres Unternehmens

🔍

Bewertungsleitfaden

Seien Sie ehrlich in Ihren Antworten, um echte Sicherheitslücken zu identifizieren

Gibt es eine schriftliche, ausdrückliche Genehmigung für alle von Ihnen getesteten KI-Systeme, einschließlich Modelle von Drittanbietern und MCP-Servern, die Sie nicht besitzen?

Regierungsführung

Hinweis: Überprüfen Sie vor dem Testen regionale Vorschriften (DSGVO, KI-Gesetz) und vertragliche Verpflichtungen.

Haben Sie die Daten, die Ihre Models und Agenten berühren, klassifiziert und personenbezogene Produktionsdaten aus Testumgebungen ausgeschlossen?

Regierungsführung

Hinweis: Eine ungetestete Staging-Kopie von echten Kundendaten sind noch regulierte Daten.

Behandeln Sie Modelleingaben als nicht vertrauenswürdig, mit einer dokumentierten Grenze zwischen Anweisungen und abgerufenen oder vom Benutzer bereitgestellten Inhalten?

rompt Injektion

Hinweis: Das ist OWASP LLM01. Die meisten echten Verstöße beginnen hier.

Wird die Modellausgabe an jeder Downstream-Senke als nicht vertrauenswürdige Daten behandelt und nicht direkt an eine Shell, SQL oder eine Vorlage übergeben?

rompt Injektion

Hinweis: OWASP LLM05: Unsachgemäße Ausgabehandhabung.

Erzwingen Ihre MCP-Server und Agent-Tools die Authentifizierung und Autorisierung pro Tool, anstatt jedes Tool jedem Anrufer auszusetzen?

Agenten & MCP

Hinweis: Mehrere CVEs aus dem Jahr 2026 erzielten lediglich 10,0, weil der SSE-Transport ohne Authentifizierung versandt wurde.

Sind Agentenaktionen durch die geringsten Privilegien begrenzt, mit Genehmigungstoren und Ausgaben- oder Schrittbeschränkungen in autonomen Schleifen?

Agenten & MCP

Hinweis: OWASP LLM06: Übermäßige Agentur.

Kontrollieren Sie, was in Ihren RAG-Korpus und die Feinabstimmungsdaten gelangt, und können Sie einen abgerufenen Teil zu einer autorisierten Quelle zurückverfolgen?

Datenabruf

Hinweis: OWASP LLM04 und LLM08: Vergiftung und Einbettung der Zugangskontrolle im Geschäft.

Werden Geheimnisse, Anmeldeinformationen und Systemaufforderungen aus dem Kontext herausgehalten, den ein Angreifer beeinflussen kann, und wird verhindert, dass sie zurückgesendet werden?

Datenabruf

Hinweis: OWASP LLM02 und LLM07.

Protokollieren Sie Modell- und Agentenaktivitäten in einer Form, mit der Sie rekonstruieren können, was eine Anfrage bewirkt hat, einschließlich Toolaufrufen und abgerufenem Kontext?

Erkennung und Reaktion

Hinweis: Ohne diese können Sie einen Vorfall überhaupt nicht untersuchen.

Gibt es einen dokumentierten Weg, ein Modell oder einen Agenten zurückzuziehen, wenn der Verdacht einer sofortigen Injektion oder eines Werkzeugmissbrauchs besteht?

Erkennung und Reaktion

Hinweis: Das Widerrufen von Anmeldeinformationen und das Deaktivieren von Tools ist besser als das Patchen während des Vorfalls.

Beurteilungspunktzahl

Füllen Sie die Bewertung aus, um Ihre Punktzahl zu sehen

-
/ 30

Aufschlüsselung der Bewertung

y Kategorie

y Implementierungsebene

Verbesserungsempfehlungen

Schließen Sie die Bewertung ab, um personalisierte Empfehlungen zu sehen ...

Frequently Asked Questions

What is an AI security self-assessment?
An AI security self-assessment is a structured evaluation of your organization's AI and LLM security posture. It covers areas like prompt injection readiness, data handling practices, MCP server security, access controls, incident response capabilities, and compliance with AI security standards and regulations.
How do I evaluate my organization's AI security posture?
Evaluate AI security posture by assessing: whether LLM inputs and outputs are properly validated, if MCP tools have appropriate access controls, how training data and model artifacts are protected, whether AI incident response plans exist, and if your team follows secure AI development practices and complies with relevant regulations.
What are the key areas to assess in AI security?
Key AI security assessment areas include: prompt injection defenses, model access controls, API security for LLM endpoints, MCP server configuration, training data protection, output filtering and leakage prevention, supply chain security for ML dependencies, and compliance with frameworks like NIST AI RMF and EU AI Act.
How often should AI security assessments be performed?
AI security assessments should be performed at least quarterly, plus whenever significant changes are made to AI systems. Trigger events include: deploying new LLM models, adding MCP tools or resources, changing system prompts, integrating new third-party AI services, or after any AI security incident.
Share: X LinkedIn Reddit HN

Stay Ahead of AI Security

Get the latest AI/LLM security research, OWASP updates, and new vulnerabilities delivered straight to your inbox.