AI Hacking
Recursos de segurança de IA

OWASP Top 10 para inscrições LLM 2026

A lista definitiva de riscos críticos de segurança em aplicações LLM – refletindo a versão OWASP 2026 e revisada em outubro de 2026

73%
As implantações de IA têm vulnerabilidades críticas
(OWASP State of AI Security, 2025)
41%
Enterprise AI tem APIs não autenticadas
(CodeWall Research, 2025)
Virtually 100%
Injeção de prompt explorável em implantações LLM
(OWASP LLM Top 10, 2025)
⚠

Consciência de risco crítico

A injeção de prompt continua sendo a vulnerabilidade número 1. Veja nosso abrangente Guia de injeção de prompt →

🔮

OWASP LLM Top 10 2026: O que mudou

A versão 2026 é o padrão ativo. Em comparação com a lista de 2025, ela reordena os cinco primeiros e adiciona cobertura para agentes e sistemas de recuperação:

  • Subiu: Divulgação de informações confidenciais — Agora LLM02, refletindo o vazamento imediato e de credenciais como um caminho de perda de nível superior
  • Subiu: Vulnerabilidades da Cadeia de Suprimentos — Agora LLM03, cobrindo plug-ins, hubs de modelo e mercados de ferramentas de agente
  • Renomeado: Envenenamento de dados e modelos — Absorve o antigo envenenamento de dados de treinamento no LLM04, agora incluindo corpora RAG e memória do agente
  • Renomeado: Tratamento de saída inadequado — Anteriormente Manipulação de saída insegura, agora LLM05 com orientação de coletor downstream mais clara
  • NOVO: Vazamento de prompt do sistema — LLM07, extração imediata como um risco distinto quando os agentes expõem seu contexto
  • NOVO: Fraquezas de vetores e incorporação — LLM08, envenenamento de recuperação e incorporação de controle de acesso à loja
  • NOVO: Desinformação — LLM09, saída de modelo fabricado ou não verificável atingindo usuários e sistemas
  • Ampliado: Agência Excessiva — LLM06, expandido para cobrir abuso de ferramentas MCP e escopos OAuth delegados

Leia os 10 principais do OWASP LLM →

LLM01

Injeção de prompt

Critical

Manipular o comportamento do LLM por meio de entradas elaboradas que substituem as instruções originais. Inclui injeção direta (entrada do usuário) e indireta (dados externos).

Tipos de ataque
  • Injeção direta: solicitações de usuários maliciosos que substituem as instruções do sistema
  • Injeção indireta: instruções ocultas em documentos externos, conteúdo da web ou respostas de API
  • Manipulação de contexto: explorando o contexto da conversa para alterar o comportamento
  • Ataques de jailbreak: ignorando filtros de segurança por meio de prompts criativos
Exemplos de ataque
  • Ignore previous instructions and...
  • Texto incorporado em caracteres Unicode invisíveis
  • Injeção de prompt via XSS armazenado em conteúdo da web
  • DAN (Do Anything Now) style jailbreaks
Estratégias de mitigação
  • Implementar validação e higienização de entrada rigorosas
  • Use a separação de privilégios entre as entradas do usuário e o sistema instruções
  • Aplicar filtragem de saída antes de exibir os resultados
  • Monitore padrões de injeção em logs
  • Implemente defesa profunda com múltiplas camadas de segurança
LLM02

Divulgação de informações confidenciais

Critical

LLMs revelam inadvertidamente informações privadas, confidenciais ou proprietárias por meio de resultados de modelos.

Tipos de ataque
  • Extração de dados de treinamento: recuperação de dados confidenciais da memória do modelo
  • Vazamento de PII: exposição de informações de identificação pessoal
  • Exposição de chaves/credenciais de API: revelando segredos nas respostas
  • Divulgação de lógica de negócios: exposição de algoritmos ou processos proprietários
Exemplos de ataque
  • Extração de endereços de e-mail por meio de prompts específicos
  • Revelando credenciais SQL em mensagens de erro
  • Divulgação de PII do cliente a partir de dados de treinamento
  • Exposição de prompts internos do sistema
Estratégias de mitigação
  • Implementar filtragem robusta de entrada/saída
  • Aplicar pipelines de sanitização de dados
  • Aplicar políticas de exclusão do usuário para uso de dados
  • Use técnicas de privacidade diferenciais
  • Restringir acesso e visibilidade imediatos do sistema
LLM03

Vulnerabilidades da cadeia de suprimentos

High

Componentes comprometidos ou vulneráveis ​​na cadeia de fornecimento LLM, incluindo modelos, APIs, plug-ins e serviços de terceiros.

Tipos de ataque
  • Adulteração de modelo: modelos pré-treinados comprometidos
  • Vulnerabilidades de dependência de PyPI/npm: Bibliotecas inseguras
  • Dados de ajuste fino maliciosos: conjuntos de dados de treinamento envenenados
  • Provedores de API comprometidos: serviços LLM não confiáveis
Exemplos de ataque
  • Pesos de modelo backdoor de fonte não confiável
  • Exploração de biblioteca de transformadores vulneráveis
  • Dados de treinamento envenenados com gatilhos ocultos
  • Armazenamento de documentos RAG comprometido
Estratégias de mitigação
  • Verificar a integridade do modelo por meio de somas de verificação e assinaturas
  • Manter SBOM (lista de materiais de software)
  • Use hubs de modelo confiáveis ​​e verifique a proveniência
  • Verificar dependências em busca de vulnerabilidades conhecidas
  • Implementar gerenciamento do ciclo de vida do modelo
LLM04

Envenenamento de dados e modelos

High

Introduzir dados maliciosos ou tendenciosos em pipelines de treinamento, ajustar dados ou bases de conhecimento RAG para comprometer a integridade do modelo.

Tipos de ataque
  • Envenenamento de dados de treinamento: dados de treinamento de modelo corrompidos
  • Ajuste fino Envenenamento: injeção de backdoors por meio de ajuste fino
  • Envenenamento por RAG: contaminação de bases de conhecimento de recuperação
  • Manipulação de incorporação: bancos de dados de vetores corrompidos
Exemplos de ataque
  • Inserção de exemplos tendenciosos para alterar o comportamento do modelo
  • Criação de gatilhos backdoor em dados de treinamento
  • Envenenamento de conjuntos de dados públicos usados ​​para treinamento
  • Injetando informações falsas em documentos RAG
Estratégias de mitigação
  • Verifique a proveniência dos dados e a integridade da cadeia de suprimentos
  • Implementar validação de dados e detecção de anomalias
  • Use pipelines de limpeza de dados
  • Aplique proteções robustas de ajuste fino
  • Monitorar desvios de comportamento do modelo
LLM05

Manipulação de saída inadequada

High

Falha ao validar, higienizar ou manipular adequadamente as saídas do LLM antes de passá-las para sistemas ou usuários downstream.

Tipos de ataque
  • XSS via LLM Saída: scripts entre sites a partir de respostas de modelo
  • Injeção de SQL: consultas maliciosas geradas pelo LLM
  • Injeção de comando: LLM gerando comandos de sistema inseguros
  • Path Traversal: LLM revelando ou acessando não autorizado caminhos
Exemplos de ataque
  • LLM gerando JavaScript que executa no navegador
  • Modelo gerando consultas SQL maliciosas
  • Geração de código, incluindo chamadas de sistema inseguras
  • Divulgação do caminho do arquivo nas respostas
Estratégias de mitigação
  • Implementar validação e higienização de saída
  • Use filtragem de conteúdo sensível ao contexto
  • Aplique os mesmos controles de segurança que as entradas do usuário
  • Saídas do Sandbox LLM antes do uso downstream
  • Ativar modos de codificação seguros na geração de código
LLM06

Agência excessiva

High

Conceder aos sistemas LLM muita funcionalidade, autonomia, permissões ou permitir ações não autorizadas ou prejudiciais.

Tipos de ataque
  • Acesso ilimitado a funções: permissões excessivas de API
  • Ação autônoma: executar ações sem aprovação humana
  • Abuso de ferramentas: exploração de ferramentas externas integradas
  • Manipulação de cadeia de pensamento: alterando processos de raciocínio
Exemplos de ataque
  • LLM com acesso à API do administrador realizando alterações não autorizadas
  • Execução automática de transações financeiras
  • Exclusão de recursos sem confirmação
  • Manipulação de dados do usuário sem consentimento
Estratégias de mitigação
  • Implementar controles de acesso com privilégios mínimos
  • Requer humano no circuito para ações críticas
  • Aplicar limitação de taxa a operações confidenciais
  • Registre e monitore todas as ações autônomas
  • Usar limitações de escopo no acesso à ferramenta
LLM07

Vazamento de prompt do sistema

Medium

Expor prompts, instruções ou lógica interna confidenciais do sistema por meio de manipulação ou proteções inadequadas.

Tipos de ataque
  • Extração direta de prompt: engenharia social para revelar prompts
  • Context Overflow: Técnicas de overflow para expor mensagens do sistema
  • Exploração de dramatização: enganar o LLM para revelar instruções
  • Vazamento de log: exposição de prompts em registros ou erros
Exemplos de ataque
  • Pedindo ao LLM para repetir o 'texto anterior' para extrair o prompt do sistema
  • Usando o estouro da janela de contexto para ignorar a análise de instruções
  • Injeção de prompt para substituir a função do sistema
  • Encontrar prompts nos logs de aplicativos
Estratégias de mitigação
  • Ofuscar prompts de sistema sempre que possível
  • Implementar técnicas de isolamento imediato
  • Usar processamento separado para instruções confidenciais
  • Monitore tentativas de extração de prompt
  • Aplicar filtragem de log rigorosa
LLM08

Vector and Embedding Weaknesses

Medium

Vulnerabilidades de segurança em sistemas de geração aumentada de recuperação (RAG), bancos de dados vetoriais e pipelines incorporados.

Tipos de ataque
  • Injeção RAG: Conteúdo malicioso em documentos recuperados
  • Comprometimento do banco de dados vetorial: ataque ao armazenamento vetorial
  • Extração de incorporação: roubo de representações de incorporação
  • Manipulação de contexto: resultados de recuperação corrompidos
Exemplos de ataque
  • Documentos envenenados sendo recuperados como principais resultados
  • Acesso não autorizado ao banco de dados vetorial
  • Extraindo dados de treinamento de embeddings
  • Manipulação de recuperação por meio de ataques de incorporação
Estratégias de mitigação
  • Validar e higienizar todos os documentos de entrada RAG
  • Implementar controles de acesso ao banco de dados vetorial
  • Usar criptografia incorporada quando disponível
  • Aplicar reclassificação com filtros de segurança
  • Monitore a recuperação em busca de anomalias
LLM09

Desinformação

Medium

LLMs que geram conteúdo falso, enganoso ou tendencioso que parece confiável, levando a decisões informadas com base em informações incorretas.

Tipos de ataque
  • Alucinações: Confiantes, mas falsas resultados
  • Erros factuais: informações incorretas apresentadas como fatos
  • Amplificação de preconceitos: reforçando preconceitos existentes
  • Manipulação: saídas enganosas deliberadas
Exemplos de ataque
  • Citando artigos de pesquisa inexistentes
  • Fornecer aconselhamento médico incorreto
  • Gerando recomendações de contratação tendenciosas
  • Criação de notícias ou análises falsas
Estratégias de mitigação
  • Implementar pipelines de verificação de fatos
  • Use pontuação de confiança e estimativa de incerteza
  • Aplicar verificação de origem para saídas críticas
  • Adicionar proveniência e atribuição de conteúdo
  • Rotule claramente o conteúdo gerado por IA
LLM10

Consumo ilimitado

Medium

Permitir o uso excessivo ou descontrolado de recursos por aplicativos LLM, levando à negação de serviço, exploração financeira ou degradação do serviço.

Tipos de ataque
  • Abuso de taxa de API: chamadas excessivas de API esgotam cotas
  • Esgotamento de recursos: maximizando os recursos de computação
  • Exploração de custos: abuso de pagamento por token levando a cobranças
  • Ataques de inferência: extração de modelo por meio de consultas excessivas
Exemplos de ataque
  • Ataques automatizados consumindo toda a cota de API
  • Spam de prompt de tamanho máximo causando esgotamento computacional
  • Extração de modelo por meio de milhões de consultas
  • Loops de prompt recursivos consumindo recursos
Estratégias de mitigação
  • Implementar cotas e limites de taxa rigorosos
  • Adicionar limites de token de entrada/saída
  • Monitore padrões de uso em busca de anomalias
  • Use controles de custos e alertas de orçamento
  • Aplicar controles de tempo limite em operações de longa execução

Estrutura de teste OWASP

Siga esta abordagem estruturada para testar cada vulnerabilidade:

1. Reconhecimento

  • Mapear a arquitetura do sistema e o fluxo de dados
  • Identificação de pontos de entrada e interfaces de API
  • Ferramentas e plug-ins integrados de documentos
  • Revise os prompts e a configuração do sistema

2. Mapeamento de vulnerabilidades

  • Teste cada categoria OWASP sistematicamente
  • Documentar superfície de ataque e pontos de entrada
  • Identificar mecanismos de defesa em vigor
  • Mapear dependências e serviços de terceiros

3. Exploração

  • Conduza ataques de prova de conceito
  • Exploração e impacto de documentos
  • Teste o encadeamento múltiplo vulnerabilidades
  • Avalie a viabilidade de ataque no mundo real

4. Relatórios

  • Priorizar descobertas por nível de risco
  • Fornece recomendações de remediação
  • Incluir código de prova de conceito
  • Sugerir melhorias defensivas

Recursos oficiais

Fontes e estatísticas

AH
AI Hacking Team

The AI Hacking team researches and documents AI/LLM security vulnerabilities, red teaming techniques, and defensive strategies. Our guides are based on real-world pentesting experience and continuous monitoring of the AI security landscape.

Frequently Asked Questions

Qual é o Top 10 do OWASP LLM?
O OWASP LLM Top 10 é uma lista de consenso das vulnerabilidades de segurança mais críticas em aplicações de Large Language Model, mantida pela comunidade OWASP. Abrange riscos como injeção de prompt, manuseio inseguro de saída, envenenamento de dados de treinamento, vulnerabilidades da cadeia de suprimentos e muito mais.
O que é injeção de prompt (LLM01)?
A injeção de prompt é o risco de segurança nº 1 do LLM, onde os invasores manipulam modelos de IA por meio de entradas maliciosas para substituir instruções do sistema, extrair dados confidenciais ou ignorar controles de segurança. Inclui injeção direta (por meio de prompts do usuário) e injeção indireta (por meio de fontes de dados externas).
O que mudou no OWASP LLM Top 10 2026?
A versão 2026 amplia a lista para cobrir sistemas de agente e de recuperação. A divulgação de informações confidenciais passa para o LLM02, as vulnerabilidades da cadeia de suprimentos para o LLM03 e o envenenamento de dados e modelos para o LLM04. O tratamento de saída inadequado substitui o tratamento de saída inseguro no LLM05, e três categorias da era do agente aparecem: vazamento de prompt do sistema (LLM07), fraquezas de vetor e incorporação (LLM08) e desinformação (LLM09).
Como posso me proteger contra vulnerabilidades da cadeia de suprimentos do LLM?
Proteja-se contra riscos da cadeia de suprimentos LLM: examinando modelos e conjuntos de dados de terceiros antes do uso, usando versões fixadas e verificação de hash, monitorando pacotes maliciosos em PyPI/npm/Hugging Face, implementando análise de composição de software para dependências de IA e mantendo um inventário de todos os componentes de IA/ML em seu pipeline.
Qual porcentagem de implantações de IA apresenta vulnerabilidades críticas?
De acordo com o relatório State of AI Security da OWASP, 73% das implantações de IA apresentam vulnerabilidades críticas. Além disso, 41% dos sistemas de IA empresariais têm APIs não autenticadas e praticamente 100% das implantações de LLM são exploráveis ​​por meio de injeção imediata.
O que é divulgação de informações confidenciais em LLMs?
A divulgação de informações confidenciais ocorre quando os LLMs revelam inadvertidamente dados confidenciais de seus dados de treinamento, prompts do sistema ou contexto recuperado. Isso pode expor chaves de API, lógica de negócios interna, informações de identificação pessoal (PII) e algoritmos proprietários por meio de prompts cuidadosamente elaborados.
Como posso proteger APIs LLM?
Proteja APIs LLM implementando autenticação e limitação de taxa, validando e higienizando todas as entradas, filtrando saídas para dados confidenciais, usando endpoints separados para diferentes níveis de confiança, registrando todas as interações da API e evitando a inclusão de dados confidenciais em prompts do sistema.

Stay Ahead of AI Security

Get the latest AI/LLM security research, OWASP updates, and new vulnerabilities delivered straight to your inbox.