Yo hackeo
Recursos de seguridad

I Autoevaluación de Seguridad

Evalúe la postura de seguridad de la IA de su organización.

🔍

Guía de evaluación

Sea honesto en sus respuestas para identificar brechas de seguridad reales.

¿Existe una autorización explícita y por escrito que cubra los sistemas de IA que pruebe, incluidos los modelos de terceros y los servidores MCP que no son de su propiedad?

Gobernancia

Nota: Consulte las regulaciones regionales (GDPR, AI Act) y las obligaciones contractuales antes de realizar la prueba.

¿Ha clasificado los datos que tocan sus modelos y agentes y ha excluido los datos personales de producción de los entornos de prueba?

Gobernancia

Nota: Una copia provisional no probada de datos reales de clientes sigue siendo información regulada.

¿Trata la entrada del modelo como no confiable, con un límite documentado entre las instrucciones y el contenido recuperado o proporcionado por el usuario?

inyección rompt

Nota: Este es OWASP LLM01. La mayoría de las violaciones reales comienzan aquí.

¿La salida del modelo se trata como datos que no son de confianza en cada receptor descendente, en lugar de pasarse directamente a un shell, SQL o plantilla?

inyección rompt

Nota: OWASP LLM05: Manejo inadecuado de la salida.

¿Sus servidores MCP y herramientas de agente aplican autenticación y autorización por herramienta, en lugar de exponer cada herramienta a cualquier persona que llama?

Agentes y MCP

Nota: Varios CVE de 2026 obtuvieron una puntuación de 10,0 simplemente porque el transporte SSE se envió sin autorización.

¿Las acciones de los agentes están limitadas por privilegios mínimos, con puertas de aprobación y límites de gasto o pasos en bucles autónomos?

Agentes y MCP

Nota: OWASP LLM06: Agencia excesiva.

¿Controla lo que ingresa a su corpus RAG y ajusta los datos, y puede rastrear un fragmento recuperado hasta una fuente autorizada?

Datos y recuperación

Nota: OWASP LLM04 y LLM08: envenenamiento e incrustación de control de acceso a tiendas.

¿Se mantienen los secretos, las credenciales y las indicaciones del sistema fuera de contexto en el que un atacante pueda influir y se evita que se repitan?

Datos y recuperación

Nota: OWASP LLM02 y LLM07.

¿Registra la actividad del modelo y del agente en un formulario que le permita reconstruir lo que hizo una solicitud, incluidas las llamadas a herramientas y el contexto recuperado?

Detección y respuesta

Nota: Sin esto no se puede investigar un incidente en absoluto.

¿Existe una ruta documentada para retirar un modelo o agente una vez que se sospecha una inyección rápida o un abuso de herramientas?

Detección y respuesta

Nota: Revocar credenciales y deshabilitar herramientas es mejor que aplicar parches en medio del incidente.

Puntuación de la evaluación

Completa la evaluación para ver tu puntuación.

-
/ 30

Desglose de la evaluación

y categoría

Nivel de implementación

Recomendaciones de mejora

Complete la evaluación para ver recomendaciones personalizadas...

Frequently Asked Questions

What is an AI security self-assessment?
An AI security self-assessment is a structured evaluation of your organization's AI and LLM security posture. It covers areas like prompt injection readiness, data handling practices, MCP server security, access controls, incident response capabilities, and compliance with AI security standards and regulations.
How do I evaluate my organization's AI security posture?
Evaluate AI security posture by assessing: whether LLM inputs and outputs are properly validated, if MCP tools have appropriate access controls, how training data and model artifacts are protected, whether AI incident response plans exist, and if your team follows secure AI development practices and complies with relevant regulations.
What are the key areas to assess in AI security?
Key AI security assessment areas include: prompt injection defenses, model access controls, API security for LLM endpoints, MCP server configuration, training data protection, output filtering and leakage prevention, supply chain security for ML dependencies, and compliance with frameworks like NIST AI RMF and EU AI Act.
How often should AI security assessments be performed?
AI security assessments should be performed at least quarterly, plus whenever significant changes are made to AI systems. Trigger events include: deploying new LLM models, adding MCP tools or resources, changing system prompts, integrating new third-party AI services, or after any AI security incident.
Share: X LinkedIn Reddit HN

Stay Ahead of AI Security

Get the latest AI/LLM security research, OWASP updates, and new vulnerabilities delivered straight to your inbox.