Centro de aprendizagem de segurança de IA
Caminhos de aprendizagem estruturados, certificações e recursos da comunidade para desenvolver sua experiência em segurança de IA, seja você um red teamer, desenvolvedor, analista ou profissional de conformidade.
Níveis de habilidade
Iniciante
Apenas começando com a segurança de IA? Comece aqui.
- Glossário de segurança de IA — Aprenda a terminologia
- OWASP LLM Top 10 — Entenda o cenário de risco
- Noções básicas de injeção de prompt — A vulnerabilidade nº 1 explicada
- Visão geral da metodologia de teste — Como funciona o pentesting de IA
Husa. Tempo: 2-3 weeks
Intermediários
Pronto para se aprofundar em técnicas e ferramentas.
- Aprofundamento da segurança RAG — Ataques de banco de dados vetoriais, envenenamento
- Guia de segurança MCP — Vulnerabilidades do protocolo de contexto do modelo
- Ferramentas de teste de IA — Garak, PyRIT, LLM Guard prático
- Listas de verificação de segurança — Aplicar testes estruturados
Husa. Tempo: 1-2 months
Avançado
Técnicas de nível mestre para profissionais experientes.
- Metodologia Red Teaming — Envolvimento adversário total
- Agentic AI Security — Modelagem de ameaças de agente autônomo
- Ataques multimodais — Visão, áudio, cross-modal
- Resposta a incidentes — Resposta a violações e análise forense
Husa. Tempo: 3+ months
Caminhos de aprendizagem de carreira
Equipe vermelha
Foco: Testes ofensivos de segurança de IA, descoberta de vulnerabilidades e exploração.
- Domínio da injeção de prompt
- Exploração de RAG e MCP
- Desenvolvimento de ferramentas (Garak, PyRIT)
- Elaboração de relatórios e criação de PoC
Páginas principais: Red Teaming, Ferramentas, Incidentes
Desenvolvedor de IA
Foco: Construir aplicações seguras de IA com padrões defensivos.
- Padrões de codificação seguros
- Validação de entrada/saída
- Projeto de segurança de API
- Integração de segurança CI/CD
Páginas principais: Desenvolvimento seguro, Segurança de API, Desenvolvimento
Analista de Segurança
Foco: Avaliação de ameaças, monitoramento e análise de risco para sistemas de IA.
- Modelagem de ameaças para IA
- Avaliação de vulnerabilidade
- Análise de log e detecção de anomalias
- Pontuação e relatórios de risco
Páginas principais: Ameaças, Metodologia, Estatísticas
Diretor de Conformidade
Foco: Conformidade regulatória, auditoria e governança para implantações de IA.
- Requisitos da Lei de IA da UE
- Implementação NIST AI RMF
- Listas de verificação de auditoria
- Documentação e evidências
Páginas principais: Padrões, Listas de verificação, Recursos
Certificações
Certificações de segurança de IA e programas de treinamento para avançar em sua carreira.
Ver certificações →Desafios CTF
Pratique na prática com o OWASP FinBot CTF para testes de segurança de IA de agentes.
Jogar FinBot CTF →