Yo hackeo
Recursos de seguridad

Centro de guías de ataque

Guías completas sobre técnicas de ataque a la seguridad de IA y LLM. Cada guía incluye ejemplos del mundo real, clasificaciones de gravedad y contramedidas defensivas.

El camino del principiante

¿Nuevo en la seguridad de la IA? Siga este orden de lectura recomendado:

  1. OWASP LLM Top 10 — Comprender el panorama de los riesgos de seguridad de LLM.
  2. Guía de inyección rompt — Domine la vulnerabilidad número uno de LLM con ejemplos prácticos.
  3. Seguridad AG — Descubra cómo se pueden envenenar y manipular los sistemas RAG.
  4. Seguridad CP — Explore las vulnerabilidades del protocolo de contexto modelo.
  5. Metodología de equipo rojo — Aplicar pruebas adversas estructuradas a los sistemas de IA.

Técnicas de ataque por categoría

inyección rompt

CRITICAL

Manipule el comportamiento de LLM mediante la creación de entradas maliciosas. Incluye inyección directa, inyección indirecta a través de fuentes de datos externas y jailbreak de múltiples turnos.

Leer guía →

Exfiltración de datos

CRITICAL

Extraiga datos de capacitación confidenciales, indicaciones del sistema o configuraciones internas de las API de LLM y puntos finales del modelo.

Leer guía →

Extracción de modelos

HIGH

Robe el peso, la arquitectura o las capacidades del modelo mediante consultas y análisis de resultados cuidadosamente elaborados.

Leer guía →

Ataques a la cadena de suministro

HIGH

Envenenar registros de modelos, comprometer canales de capacitación o inyectar código malicioso en marcos y dependencias de IA.

Leer guía →

Envenenamiento por trapo

HIGH

Inyecte documentos maliciosos en bases de datos vectoriales, manipule incrustaciones o envenene los resultados de la recuperación para alterar los resultados de LLM.

Leer guía →

Secuestro de objetivos agente

MEDIUM

Redirija a los agentes autónomos de IA de sus objetivos previstos a objetivos maliciosos manipulando el contexto o los resultados de las herramientas.

Leer guía →

Inyección de llamada de función

MEDIUM

Obligue a los LLM a invocar funciones o API no deseadas manipulando las descripciones de las herramientas y el contexto de la conversación.

Leer guía →

Ejemplos contradictorios

LOW

Cree perturbaciones de entrada sutiles que hagan que los modelos se clasifiquen erróneamente o produzcan resultados incorrectos, centrándose en modelos de visión, audio y texto.

Leer guía →

Últimas incorporaciones

¿Listo para poner a prueba tus habilidades?

Aplique lo que ha aprendido con nuestras guías de prueba prácticas y recomendaciones de herramientas.

Herramientas de fila → Obtener listas de verificación → Ver Metodología →
AH
AI Hacking Team

The AI Hacking team researches and documents AI/LLM security vulnerabilities, red teaming techniques, and defensive strategies. Our guides are based on real-world pentesting experience and continuous monitoring of the AI security landscape.

Frequently Asked Questions

What are the most common techniques for attacking AI systems?
The most common AI attack techniques include prompt injection (direct and indirect), model extraction via API queries, data exfiltration through LLM outputs, adversarial example generation, supply chain attacks via trojaned models, and denial-of-service against inference endpoints.
How do prompt injection attacks work in practice?
Prompt injection works by crafting input that overrides the AI's system instructions. Attackers use techniques like: role-playing (convincing the AI it is in debug mode), delimiter injection (breaking out of input boundaries), encoding bypasses (Base64, Unicode), and indirect injection through documents, web pages, or MCP tool outputs the AI processes.
What is model extraction and how can it be performed?
Model extraction is the process of stealing an AI model's capabilities by sending carefully crafted API queries and analyzing the outputs. Attackers perform extraction via: black-box probing to reconstruct model behavior, side-channel attacks on hardware, and exploiting verbose error messages that leak model architecture details.
How do supply chain attacks target AI/ML systems?
Supply chain attacks target AI/ML systems through: trojaned models on repositories like Hugging Face containing hidden backdoors, typosquatting packages mimicking popular libraries (TensorFlow, PyTorch, transformers), compromised CI/CD pipelines injecting malicious code, and poisoned training data from untrusted sources.

Stay Ahead of AI Security

Get the latest AI/LLM security research, OWASP updates, and new vulnerabilities delivered straight to your inbox.