Centro de aprendizaje de seguridad de IA
Rutas de aprendizaje estructuradas, certificaciones y recursos comunitarios para desarrollar su experiencia en seguridad de IA, ya sea un miembro del equipo rojo, un desarrollador, un analista o un profesional de cumplimiento.
Niveles de habilidad
principiante
¿Acabas de empezar con la seguridad de la IA? Comience aquí.
- I Glosario de seguridad — Aprende la terminología
- OWASP LLM Top 10 — Comprender el panorama de riesgos
- Conceptos básicos de inyección rápida — La vulnerabilidad número uno explicada
- Descripción general de la metodología de prueba — Cómo funciona el pentesting de IA
Est. Tiempo: 2-3 weeks
intermedio
Listo para profundizar en técnicas y herramientas.
- Análisis profundo de seguridad de RAG — Ataques de vectores DB, envenenamiento
- Guía de seguridad CP — Vulnerabilidades del protocolo de contexto modelo
- Herramientas de pentesting de IA — Garak, PyRIT, LLM Guard práctico
- Listas de verificación de seguridad — Aplicar pruebas estructuradas
Est. Tiempo: 1-2 months
avanzado
Técnicas de nivel maestro para practicantes experimentados.
- Metodología de equipo rojo — Compromiso adversario total
- Seguridad genética de IA — Modelado de amenazas de agentes autónomos
- Ataques multimodales — Visión, audio, intermodal
- Respuesta a incidentes — Respuesta a infracciones y análisis forense
Est. Tiempo: 3+ months
Rutas de aprendizaje profesional
Equipo rojo
Enfoque: pruebas de seguridad ofensivas de IA, descubrimiento y explotación de vulnerabilidades.
- Dominio de la inyección rápida
- Explotación de RAG y MCP
- Desarrollo de herramientas (Garak, PyRIT)
- Redacción de informes y creación de PoC.
Páginas clave: ed equipo, Herramientas, Incidentes
Desarrollador de IA
Enfoque: creación de aplicaciones de IA seguras con patrones defensivos.
- Patrones de codificación seguros
- Validación de entrada/salida
- Diseño de seguridad API
- Integración de seguridad CI/CD
Páginas clave: Desarrollo seguro, Seguridad PI, Desarrollo
Analista de seguridad
Enfoque: Evaluación de amenazas, monitoreo y análisis de riesgos para sistemas de IA.
- Modelado de amenazas para IA
- Evaluación de vulnerabilidad
- Análisis de registros y detección de anomalías.
- Calificación e informes de riesgos
Páginas clave: Amenazas, etodología, Estadística
Oficial de Cumplimiento
Enfoque: Cumplimiento normativo, auditoría y gobernanza para implementaciones de IA.
- Requisitos de la Ley U AI
- Implementación NIST AI RMF
- Listas de verificación de auditoría
- Documentación y evidencia
Páginas clave: Estándares, Listas de verificación, Recursos
certificaciones
Realizo certificaciones de seguridad y programas de formación para avanzar en tu carrera.
Ver certificaciones →perdedor
90 términos esenciales para los profesionales de la seguridad de la IA.
Examinar términos →Desafíos del FTL
Practique de forma práctica con OWASP FinBot CTF para realizar pruebas de seguridad de IA agentes.
Jugar FinBot CTF →