AI Hacking
Recursos de segurança de IA

Central de Guias de Ataque

Guias abrangentes sobre técnicas de ataque de segurança de IA e LLM. Cada guia inclui exemplos do mundo real, classificações de gravidade e contramedidas defensivas.

Caminho do iniciante

Novo na segurança de IA? Siga esta ordem de leitura recomendada:

  1. OWASP LLM Top 10 — Compreenda o cenário dos riscos de segurança do LLM.
  2. Guia de injeção de prompt — Domine a vulnerabilidade nº 1 do LLM com exemplos práticos.
  3. Segurança RAG — Aprenda como os sistemas RAG podem ser envenenados e manipulados.
  4. Segurança MCP — Explore as vulnerabilidades do protocolo de contexto do modelo.
  5. Metodologia Red Teaming — Aplique testes adversários estruturados a sistemas de IA.

Técnicas de ataque por categoria

Injeção de prompt

CRITICAL

Manipule o comportamento do LLM criando entradas maliciosas. Inclui injeção direta, injeção indireta por meio de fontes de dados externas e jailbreaks multivoltas.

Leia o guia →

Exfiltração de dados

CRITICAL

Extraia dados de treinamento confidenciais, prompts do sistema ou configurações internas de APIs LLM e endpoints de modelo.

Leia o guia →

Extração de modelo

HIGH

Roube pesos, arquitetura ou recursos de modelos por meio de consultas e análises de resultados cuidadosamente elaboradas.

Leia o guia →

Ataques à cadeia de suprimentos

HIGH

Envenenar registros de modelos, comprometer pipelines de treinamento ou injetar código malicioso em estruturas e dependências de IA.

Leia o guia →

Envenenamento por RAG

HIGH

Injete documentos maliciosos em bancos de dados de vetores, manipule incorporações ou envenene resultados de recuperação para alterar resultados de LLM.

Leia o guia →

Sequestro de meta Agentic

MEDIUM

Redirecione agentes autônomos de IA de seus objetivos pretendidos para objetivos maliciosos, manipulando o contexto ou os resultados da ferramenta.

Leia o guia →

Injeção de chamada de função

MEDIUM

Forçar LLMs a invocar funções ou APIs não intencionais, manipulando descrições de ferramentas e contexto de conversação.

Leia o guia →

Exemplos adversários

LOW

Crie perturbações sutis de entrada que fazem com que os modelos classifiquem incorretamente ou produzam resultados incorretos, visando modelos de visão, áudio e texto.

Leia o guia →

Últimas adições

Pronto para testar suas habilidades?

Aplique o que você aprendeu com nossos guias de testes práticos e recomendações de ferramentas.

Navegar pelas ferramentas → Obtenha listas de verificação → Ver Metodologia →
AH
AI Hacking Team

The AI Hacking team researches and documents AI/LLM security vulnerabilities, red teaming techniques, and defensive strategies. Our guides are based on real-world pentesting experience and continuous monitoring of the AI security landscape.

Frequently Asked Questions

What are the most common techniques for attacking AI systems?
The most common AI attack techniques include prompt injection (direct and indirect), model extraction via API queries, data exfiltration through LLM outputs, adversarial example generation, supply chain attacks via trojaned models, and denial-of-service against inference endpoints.
How do prompt injection attacks work in practice?
Prompt injection works by crafting input that overrides the AI's system instructions. Attackers use techniques like: role-playing (convincing the AI it is in debug mode), delimiter injection (breaking out of input boundaries), encoding bypasses (Base64, Unicode), and indirect injection through documents, web pages, or MCP tool outputs the AI processes.
What is model extraction and how can it be performed?
Model extraction is the process of stealing an AI model's capabilities by sending carefully crafted API queries and analyzing the outputs. Attackers perform extraction via: black-box probing to reconstruct model behavior, side-channel attacks on hardware, and exploiting verbose error messages that leak model architecture details.
How do supply chain attacks target AI/ML systems?
Supply chain attacks target AI/ML systems through: trojaned models on repositories like Hugging Face containing hidden backdoors, typosquatting packages mimicking popular libraries (TensorFlow, PyTorch, transformers), compromised CI/CD pipelines injecting malicious code, and poisoned training data from untrusted sources.

Stay Ahead of AI Security

Get the latest AI/LLM security research, OWASP updates, and new vulnerabilities delivered straight to your inbox.