Yo hackeo
Recursos de seguridad

Centro de aprendizaje de seguridad de IA

Rutas de aprendizaje estructuradas, certificaciones y recursos comunitarios para desarrollar su experiencia en seguridad de IA, ya sea un miembro del equipo rojo, un desarrollador, un analista o un profesional de cumplimiento.

Niveles de habilidad

principiante

¿Acabas de empezar con la seguridad de la IA? Comience aquí.

Est. Tiempo: 2-3 weeks

intermedio

Listo para profundizar en técnicas y herramientas.

Est. Tiempo: 1-2 months

avanzado

Técnicas de nivel maestro para practicantes experimentados.

Est. Tiempo: 3+ months

Rutas de aprendizaje profesional

Equipo rojo

Enfoque: pruebas de seguridad ofensivas de IA, descubrimiento y explotación de vulnerabilidades.

  • Dominio de la inyección rápida
  • Explotación de RAG y MCP
  • Desarrollo de herramientas (Garak, PyRIT)
  • Redacción de informes y creación de PoC.

Páginas clave: ed equipo, Herramientas, Incidentes

Desarrollador de IA

Enfoque: creación de aplicaciones de IA seguras con patrones defensivos.

  • Patrones de codificación seguros
  • Validación de entrada/salida
  • Diseño de seguridad API
  • Integración de seguridad CI/CD

Páginas clave: Desarrollo seguro, Seguridad PI, Desarrollo

Analista de seguridad

Enfoque: Evaluación de amenazas, monitoreo y análisis de riesgos para sistemas de IA.

  • Modelado de amenazas para IA
  • Evaluación de vulnerabilidad
  • Análisis de registros y detección de anomalías.
  • Calificación e informes de riesgos

Páginas clave: Amenazas, etodología, Estadística

Oficial de Cumplimiento

Enfoque: Cumplimiento normativo, auditoría y gobernanza para implementaciones de IA.

  • Requisitos de la Ley U AI
  • Implementación NIST AI RMF
  • Listas de verificación de auditoría
  • Documentación y evidencia

Páginas clave: Estándares, Listas de verificación, Recursos

certificaciones

Realizo certificaciones de seguridad y programas de formación para avanzar en tu carrera.

Ver certificaciones →

perdedor

90 términos esenciales para los profesionales de la seguridad de la IA.

Examinar términos →

Recursos

Recursos, herramientas y referencias adicionales.

Ver recursos →

Desafíos del FTL

Practique de forma práctica con OWASP FinBot CTF para realizar pruebas de seguridad de IA agentes.

Jugar FinBot CTF →
AH
AI Hacking Team

The AI Hacking team researches and documents AI/LLM security vulnerabilities, red teaming techniques, and defensive strategies. Our guides are based on real-world pentesting experience and continuous monitoring of the AI security landscape.

Frequently Asked Questions

How do I start learning AI security?
Start with foundational knowledge of LLM architecture and common vulnerabilities (OWASP LLM Top 10). Practice with hands-on labs like OWASP's AI security challenges, Hack The Box's AI modules, and local LLM testing with tools like Ollama. Follow structured learning paths that cover prompt injection, red teaming, and secure AI development.
What are the best AI security certifications available?
Top AI security certifications include: AI Security Certified Professional (AISCP), Certified AI Security Professional (CAISP), CEH with AI security specialization, and SANS AI security courses. These certifications cover LLM security testing, adversarial machine learning, and AI risk management frameworks.
What learning path should I follow for AI red teaming?
An AI red teaming learning path includes: 1) Master prompt injection techniques and jailbreaking, 2) Learn MCP server security testing, 3) Study model extraction and inversion attacks, 4) Practice with tools like Garak and PyRIT, 5) Understand agentic AI vulnerabilities and OWASP Agentic Top 10.
What are the best resources for learning LLM security?
Best LLM security resources include: OWASP LLM Top 10 and Agentic Top 10 guides, AI Hacking Portal's comprehensive testing methodology, NIST AI RMF documentation, MITRE ATLAS knowledge base, and Capture The Flag challenges like the OWASP FinBot CTF for hands-on agentic AI security practice.

Stay Ahead of AI Security

Get the latest AI/LLM security research, OWASP updates, and new vulnerabilities delivered straight to your inbox.