Yo hackeo
Recursos de seguridad

OOWASP Top 10 para aplicaciones LLM 2026

La lista definitiva de riesgos de seguridad críticos en las aplicaciones LLM, que refleja la versión de OWASP 2026 y se revisó en octubre de 2026.

73%
Las implementaciones tienen vulnerabilidades críticas.
OWASP Estado de la seguridad de la IA, 2025)
41%
La IA empresarial tiene API no autenticadas
Investigación de CodeWall, 2025)
Virtually 100%
inyección rápida explotable en implementaciones LLM
(OWASP LLM Top 10, 2025)
⚠

Conciencia de riesgos críticos

La inyección rompt sigue siendo la vulnerabilidad número uno. Consulte nuestra guía completa de inyección rápida →

🔮

OWASP LLM Top 10 2026: ¿Qué ha cambiado?

La versión 2026 es el estándar activo. En comparación con la lista de 2025, reordena los cinco primeros y agrega cobertura para agentes y sistemas de recuperación:

  • Ascendió: divulgación de información confidencial — Ahora LLM02, que refleja la fuga rápida y de credenciales como una ruta de pérdida de primer nivel
  • Ascendió: vulnerabilidades de la cadena de suministro — Ahora LLM03, que cubre plugins, centros de modelos y mercados de herramientas de agentes
  • Renombrado: Envenenamiento de datos y modelos — Absorbe el antiguo envenenamiento de datos de entrenamiento en LLM04, que ahora incluye corpus RAG y memoria de agente.
  • Renombrado: Manejo de salida incorrecto — Anteriormente Manejo de salida inseguro, ahora LLM05 con una guía de sumidero descendente más clara
  • NUEVO: fuga de aviso del sistema — LLM07, extracción rápida como un riesgo distinto una vez que los agentes exponen su contexto
  • NUEVO: debilidades vectoriales y de incrustación — LLM08, recuperación de envenenamiento e incrustación de control de acceso a la tienda
  • NUEVO: información errónea — LLM09, salida de modelo fabricada o no verificable que llega a usuarios y sistemas
  • Ampliado: agencia excesiva — LLM06, ampliado para cubrir el abuso de la herramienta MCP y los alcances delegados de OAuth

Lea el Top 10 de OWASP LLM →

LLM01

inyección rompt

Critical

Manipular el comportamiento de LLM a través de entradas diseñadas que anulan las instrucciones originales. Incluye inyección directa (entrada del usuario) e indirecta (datos externos).

Tipos de ataque
  • Inyección directa: mensajes de usuario maliciosos que anulan las instrucciones del sistema
  • Inyección indirecta: instrucciones ocultas en documentos externos, contenido web o respuestas API
  • Manipulación de ontext: explotar el contexto de la conversación para alterar el comportamiento
  • Ataques de ailbreak: eludir los filtros de seguridad mediante indicaciones creativas
Ejemplos de ataque
  • Ignore previous instructions and...
  • ext incrustado en caracteres Unicode invisibles
  • inyección rápida a través de XSS almacenado en contenido web
  • DAN (Do Anything Now) style jailbreaks
Estrategias de litigación
  • Implementar una estricta validación y desinfección de las entradas.
  • Separación de privilegios entre las entradas del usuario y las indicaciones del sistema.
  • Aplicar filtrado de salida antes de mostrar los resultados.
  • Monitor de patrones de inyección en registros.
  • Implementar una defensa en profundidad con múltiples capas de seguridad.
LLM02

Divulgación de información sensible

Critical

Los LLM revelan inadvertidamente información privada, confidencial o de propiedad exclusiva a través de los resultados del modelo.

Tipos de ataque
  • Extracción de datos: recuperación de datos confidenciales de la memoria del modelo
  • II Fuga: Exponer información de identificación personal
  • Exposición de credenciales/clave PI: revelar secretos en las respuestas
  • Divulgación de la lógica empresarial: exponer algoritmos o procesos propietarios
Ejemplos de ataque
  • extraer direcciones de correo electrónico a través de indicaciones específicas
  • Mostrar credenciales SQL en mensajes de error
  • Cerrar la PII del cliente de los datos de capacitación.
  • exponer mensajes internos del sistema
Estrategias de litigación
  • Implementar un filtrado robusto de entrada/salida.
  • nforce canales de desinfección de datos
  • Aplicar políticas de exclusión voluntaria del usuario para el uso de datos.
  • se técnicas de privacidad diferenciales
  • Sistema estricto de acceso rápido y visibilidad.
LLM03

Vulnerabilidades de la cadena de suministro

High

Componentes comprometidos o vulnerables en la cadena de suministro de LLM, incluidos modelos, API, complementos y servicios de terceros.

Tipos de ataque
  • Manipulación de modelos: modelos preentrenados comprometidos
  • Vulnerabilidades de dependencia de yPI/npm: bibliotecas inseguras
  • alicious Datos de ajuste fino: conjuntos de datos de entrenamiento envenenados
  • Proveedores de API comprometidos: servicios LLM no confiables
Ejemplos de ataque
  • pesos de modelos respaldados de fuente no confiable
  • explotación de la biblioteca de transformadores vulnerables
  • Datos de entrenamiento envenenados con desencadenantes ocultos.
  • almacén de documentos RAG comprometido
Estrategias de litigación
  • verificar la integridad del modelo mediante sumas de verificación y firmas
  • Mantener SBOM (Lista de materiales de software)
  • Busque centros de modelos confiables y verifique su procedencia.
  • ¿Pueden existir dependencias para vulnerabilidades conocidas?
  • Implementar la gestión del ciclo de vida del modelo.
LLM04

ata y modelo de envenenamiento

High

Introducir datos maliciosos o sesgados en procesos de capacitación, ajustar datos o bases de conocimiento RAG para comprometer la integridad del modelo.

Tipos de ataque
  • Lluvia de envenenamiento de datos: datos de entrenamiento del modelo corruptos
  • Envenenamiento de ajuste fino: inyectar puertas traseras mediante ajuste fino
  • Envenenamiento por AG: bases de conocimiento de recuperación contaminadas
  • Manipulación de mbedding: corrupción de bases de datos vectoriales
Ejemplos de ataque
  • Insertar ejemplos sesgados para alterar el comportamiento del modelo.
  • Creación de activadores de puerta trasera en datos de entrenamiento.
  • Envenenamiento de conjuntos de datos públicos utilizados para la formación.
  • Inyectar información falsa en documentos RAG.
Estrategias de litigación
  • verificar la procedencia de los datos y la integridad de la cadena de suministro
  • Implementar validación de datos y detección de anomalías.
  • se tuberías de desinfección de datos
  • Aplicar sólidas salvaguardias de ajuste
  • Monitor de deriva del comportamiento del modelo.
LLM05

Manejo inadecuado de la salida

High

No validar, desinfectar o manejar adecuadamente los resultados de LLM antes de pasarlos a sistemas o usuarios posteriores.

Tipos de ataque
  • SS a través de salida LLM: secuencias de comandos entre sitios a partir de respuestas modelo
  • Inyección QL: consultas maliciosas generadas por LLM
  • Inyección de comandos: LLM genera comandos de sistema inseguros
  • ath Traversal: LLM que revela o accede a rutas no autorizadas
Ejemplos de ataque
  • LM genera JavaScript que se ejecuta en el navegador
  • modelo que genera consultas SQL maliciosas
  • Generación de odas que incluyen llamadas al sistema inseguras.
  • divulgación de ruta de archivo en las respuestas
Estrategias de litigación
  • Implementar validación y desinfección de resultados.
  • ver filtrado de contenido contextual
  • Aplicar los mismos controles de seguridad que las entradas del usuario.
  • Salidas de andbox LLM antes de su uso posterior
  • Activar modos de codificación seguros en la generación de código.
LLM06

Agencia excesiva

High

Otorgar a los sistemas LLM demasiada funcionalidad, autonomía, permisos o permitir acciones no autorizadas o dañinas.

Tipos de ataque
  • Acceso limitado a funciones: permisos API excesivos
  • Acción autónoma: realizar acciones sin la aprobación humana.
  • Abuso de herramientas: explotación de herramientas externas integradas
  • Manipulación de la cadena de pensamiento: alteración de los procesos de razonamiento
Ejemplos de ataque
  • LM con acceso a la API de administrador realizando cambios no autorizados
  • transacciones financieras de ejecución automática
  • eliminando recursos sin confirmación
  • manipular datos del usuario sin consentimiento
Estrategias de litigación
  • Implementar controles de acceso con privilegios mínimos.
  • Requerir intervención humana para acciones críticas.
  • Aplicar limitación de tasas a operaciones sensibles
  • Registrar y monitorear todas las acciones autónomas.
  • ver limitaciones de alcance en el acceso a herramientas
LLM07

Fuga rápida del sistema

Medium

Exponer indicaciones, instrucciones o lógica interna confidenciales del sistema mediante manipulación o protecciones inadecuadas.

Tipos de ataque
  • Extracción directa de indicaciones: ingeniería social para revelar indicaciones
  • ontext Overflow: técnicas de desbordamiento para exponer mensajes del sistema
  • Explotación de ole Play: engaña a LLM para que revele instrucciones
  • og Fuga: exposición de mensajes en registros o errores
Ejemplos de ataque
  • Solicitar a LLM que repita el 'texto anterior' para extraer el mensaje del sistema
  • cantar desbordamiento de ventana de contexto para omitir el análisis de instrucciones
  • Inyección rápida para anular la función del sistema.
  • Encontrar mensajes en los registros de la aplicación.
Estrategias de litigación
  • El sistema bfuscate indica cuando es posible.
  • implementar técnicas de aislamiento rápido
  • Se procesa por separado para instrucciones confidenciales.
  • Monitor para intentos de extracción rápidos.
  • Aplicar filtrado de registros estricto
LLM08

Debilidades del sector y la incrustación

Medium

Vulnerabilidades de seguridad en sistemas de recuperación de generación aumentada (RAG), bases de datos vectoriales y canalizaciones de integración.

Tipos de ataque
  • Inyección AG: contenido malicioso en documentos recuperados
  • Compromiso de ector DB: ataque al almacenamiento vectorial
  • Extracción de mbedding: robo de representaciones incrustadas
  • Manipulación de ontext: resultados de recuperación corruptos
Ejemplos de ataque
  • Los documentos envenenados se recuperan como mejores resultados.
  • acceso no autorizado a la base de datos del sector
  • extraer datos de entrenamiento de incrustaciones
  • Manipulación de recuperación mediante ataques de incrustación.
Estrategias de litigación
  • alidar y desinfectar todos los documentos de entrada del RAG
  • implementar controles de acceso a bases de datos vectoriales
  • se incorpora cifrado cuando esté disponible
  • aplicar reclasificación con filtros de seguridad
  • Monitor de recuperación de anomalías.
LLM09

es información

Medium

Los LLM generan contenido falso, engañoso o sesgado que parece creíble, lo que lleva a decisiones informadas basadas en información incorrecta.

Tipos de ataque
  • Alucinaciones: Salidas seguras pero falsas.
  • Errores reales: información incorrecta presentada como un hecho
  • Amplificación de ias: reforzando los sesgos existentes
  • manipulación: resultados engañosos deliberados
Ejemplos de ataque
  • iting trabajos de investigación inexistentes
  • Dar consejos médicos incorrectos.
  • generar recomendaciones de contratación sesgadas
  • leer noticias o reseñas falsas
Estrategias de litigación
  • Implementar canales de verificación de hechos.
  • se puntuación de confianza y estimación de incertidumbre
  • Aplicar verificación de origen para productos críticos.
  • dd procedencia y atribución del contenido
  • contenido generado por abel AI claramente
LLM10

Consumo ilimitado

Medium

Permitir el uso excesivo o incontrolado de recursos por parte de las aplicaciones LLM, lo que lleva a la denegación de servicio, explotación financiera o degradación del servicio.

Tipos de ataque
  • Abuso de PI Rate: llamadas API excesivas que agotan las cuotas
  • Agotamiento de recursos: maximizar los recursos informáticos
  • Explotación de la mayoría: abuso de pago por token que genera cargos
  • Ataques de referencia: extracción del modelo mediante consultas excesivas
Ejemplos de ataque
  • ataques automatizados que consumen toda la cuota de API
  • spam de aviso de longitud de hacha que causa agotamiento de la computación
  • Extraer modelo a través de millones de consultas.
  • bucles rápidos ecursivos que consumen recursos
Estrategias de litigación
  • Implementar límites estrictos de tarifas y cuotas.
  • Límites de tokens de entrada/salida dd
  • Supervisar los patrones de uso en busca de anomalías.
  • ver controles de costos y alertas de presupuesto
  • Aplicar controles de tiempo de espera en operaciones de larga duración.

Marco de prueba WASP

Siga este enfoque estructurado para probar cada vulnerabilidad:

. Reconocimiento

  • Arquitectura del sistema AP y flujo de datos.
  • identificar puntos de entrada e interfaces API
  • herramientas y complementos integrados de documentos
  • Revisar las indicaciones y la configuración del sistema.

. Mapeo de vulnerabilidades

  • est cada categoría de OWASP sistemáticamente
  • Superficie de ataque de objetos y puntos de entrada.
  • identificar los mecanismos de defensa existentes
  • dependencias de AP y servicios de terceros

. Explotación

  • Realizar ataques de prueba de concepto.
  • Explotación e impacto del documento.
  • está encadenando múltiples vulnerabilidades
  • Evaluar la viabilidad de un ataque en el mundo real.

. Informes

  • priorizar los hallazgos por nivel de riesgo
  • proporcionar recomendaciones de remediación
  • Incluye código de prueba de concepto.
  • sugerir mejoras defensivas

Recursos oficiales

Fuentes y Estadísticas

AH
AI Hacking Team

The AI Hacking team researches and documents AI/LLM security vulnerabilities, red teaming techniques, and defensive strategies. Our guides are based on real-world pentesting experience and continuous monitoring of the AI security landscape.

Frequently Asked Questions

¿Cuál es el Top 10 de OWASP LLM?
OWASP LLM Top 10 es una lista de consenso de las vulnerabilidades de seguridad más críticas en aplicaciones de modelos de lenguaje grandes, mantenida por la comunidad OWASP. Cubre riesgos como inyección rápida, manejo inseguro de resultados, envenenamiento de datos de capacitación, vulnerabilidades de la cadena de suministro y más.
¿Qué es la inyección rápida (LLM01)?
La inyección rápida es el riesgo de seguridad número uno de LLM donde los atacantes manipulan modelos de IA a través de entradas maliciosas para anular las instrucciones del sistema, extraer datos confidenciales o eludir los controles de seguridad. Incluye inyección directa (a través de indicaciones del usuario) e inyección indirecta (a través de fuentes de datos externas).
¿Qué cambió en el OWASP LLM Top 10 2026?
La versión de 2026 amplía la lista para cubrir sistemas de agencia y recuperación. La divulgación de información confidencial pasa a LLM02, las vulnerabilidades de la cadena de suministro a LLM03 y el envenenamiento de datos y modelos a LLM04. El manejo de salida inadecuado reemplaza al manejo de salida inseguro en LLM05, y aparecen tres categorías de la era del agente: fuga de avisos del sistema (LLM07), debilidades de integración y vectores (LLM08) y desinformación (LLM09).
¿Cómo puedo protegerme contra las vulnerabilidades de la cadena de suministro de LLM?
Protéjase contra los riesgos de la cadena de suministro de LLM al: examinar modelos y conjuntos de datos de terceros antes de su uso, usar versiones fijadas y verificación de hash, monitorear paquetes maliciosos en PyPI/npm/Hugging Face, implementar análisis de composición de software para dependencias de IA y mantener un inventario de todos los componentes de IA/ML en su proceso.
¿Qué porcentaje de implementaciones de IA tienen vulnerabilidades críticas?
Según el informe sobre el estado de la seguridad de la IA de OWASP, el 73% de las implementaciones de IA tienen vulnerabilidades críticas. Además, el 41% de los sistemas de IA empresarial tienen API no autenticadas y prácticamente el 100% de las implementaciones de LLM se pueden explotar mediante inyección rápida.
¿Qué es la divulgación de información confidencial en los LLM?
La divulgación de información confidencial ocurre cuando los LLM revelan inadvertidamente datos confidenciales de sus datos de capacitación, indicaciones del sistema o contexto recuperado. Esto puede exponer claves API, lógica empresarial interna, información de identificación personal (PII) y algoritmos propietarios a través de indicaciones cuidadosamente diseñadas.
¿Cómo protejo las API de LLM?
Proteja las API de LLM implementando autenticación y limitación de velocidad, validando y desinfectando todas las entradas, filtrando salidas para datos confidenciales, utilizando puntos finales separados para diferentes niveles de confianza, registrando todas las interacciones de API y evitando la inclusión de datos confidenciales en las indicaciones del sistema.

Stay Ahead of AI Security

Get the latest AI/LLM security research, OWASP updates, and new vulnerabilities delivered straight to your inbox.