I Autoevaluación de Seguridad
Evalúe la postura de seguridad de la IA de su organización.
Guía de evaluación
Sea honesto en sus respuestas para identificar brechas de seguridad reales.
¿Existe una autorización explícita y por escrito que cubra los sistemas de IA que pruebe, incluidos los modelos de terceros y los servidores MCP que no son de su propiedad?
GobernanciaNota: Consulte las regulaciones regionales (GDPR, AI Act) y las obligaciones contractuales antes de realizar la prueba.
¿Ha clasificado los datos que tocan sus modelos y agentes y ha excluido los datos personales de producción de los entornos de prueba?
GobernanciaNota: Una copia provisional no probada de datos reales de clientes sigue siendo información regulada.
¿Trata la entrada del modelo como no confiable, con un límite documentado entre las instrucciones y el contenido recuperado o proporcionado por el usuario?
inyección romptNota: Este es OWASP LLM01. La mayoría de las violaciones reales comienzan aquí.
¿La salida del modelo se trata como datos que no son de confianza en cada receptor descendente, en lugar de pasarse directamente a un shell, SQL o plantilla?
inyección romptNota: OWASP LLM05: Manejo inadecuado de la salida.
¿Sus servidores MCP y herramientas de agente aplican autenticación y autorización por herramienta, en lugar de exponer cada herramienta a cualquier persona que llama?
Agentes y MCPNota: Varios CVE de 2026 obtuvieron una puntuación de 10,0 simplemente porque el transporte SSE se envió sin autorización.
¿Las acciones de los agentes están limitadas por privilegios mínimos, con puertas de aprobación y límites de gasto o pasos en bucles autónomos?
Agentes y MCPNota: OWASP LLM06: Agencia excesiva.
¿Controla lo que ingresa a su corpus RAG y ajusta los datos, y puede rastrear un fragmento recuperado hasta una fuente autorizada?
Datos y recuperaciónNota: OWASP LLM04 y LLM08: envenenamiento e incrustación de control de acceso a tiendas.
¿Se mantienen los secretos, las credenciales y las indicaciones del sistema fuera de contexto en el que un atacante pueda influir y se evita que se repitan?
Datos y recuperaciónNota: OWASP LLM02 y LLM07.
¿Registra la actividad del modelo y del agente en un formulario que le permita reconstruir lo que hizo una solicitud, incluidas las llamadas a herramientas y el contexto recuperado?
Detección y respuestaNota: Sin esto no se puede investigar un incidente en absoluto.
¿Existe una ruta documentada para retirar un modelo o agente una vez que se sospecha una inyección rápida o un abuso de herramientas?
Detección y respuestaNota: Revocar credenciales y deshabilitar herramientas es mejor que aplicar parches en medio del incidente.
Puntuación de la evaluación
Completa la evaluación para ver tu puntuación.
Desglose de la evaluación
y categoría
Nivel de implementación
Recomendaciones de mejora
Complete la evaluación para ver recomendaciones personalizadas...