AI Hacking
Risorse per la sicurezza AI

Hub delle guide agli attacchi

Guide complete sulle tecniche di attacco alla sicurezza AI e LLM. Ogni guida include esempi reali, valutazioni di gravità e contromisure difensive.

Percorso per principianti

Nuovo nel campo della sicurezza IA? Segui questo ordine di lettura consigliato:

  1. OWASP LLM Top 10 — Comprendere il panorama dei rischi per la sicurezza LLM.
  2. Guida all'inserimento rapido — Padroneggia la vulnerabilità n. 1 del LLM con esempi pratici.
  3. Sicurezza RAG — Scopri come i sistemi RAG possono essere avvelenati e manipolati.
  4. Sicurezza MCP — Esplora le vulnerabilità del Model Context Protocol.
  5. Metodologia del team rosso — Applicare test contraddittori strutturati ai sistemi di intelligenza artificiale.

Tecniche di attacco per categoria

Prompt Injection

CRITICAL

Manipola il comportamento LLM creando input dannosi. Include iniezione diretta, iniezione indiretta tramite origini dati esterne e jailbreak multi-turn.

Leggi la guida →

Esfiltrazione dei dati

CRITICAL

Estrai dati di addestramento sensibili, richieste di sistema o configurazioni interne dalle API LLM e dagli endpoint del modello.

Leggi la guida →

Estrazione del modello

HIGH

Ruba pesi, architettura o funzionalità del modello attraverso query attentamente elaborate e analisi dell'output.

Leggi la guida →

Attacchi alla catena di fornitura

HIGH

Avvelenare i registri dei modelli, compromettere le pipeline di formazione o inserire codice dannoso nei framework e nelle dipendenze dell'intelligenza artificiale.

Leggi la guida →

Avvelenamento da RAG

HIGH

Inserisci documenti dannosi nei database vettoriali, manipola gli incorporamenti o altera i risultati del recupero per alterare gli output LLM.

Leggi la guida →

Dirottamento degli obiettivi agentici

MEDIUM

Reindirizzare gli agenti IA autonomi dagli obiettivi previsti a obiettivi dannosi manipolando il contesto o gli output degli strumenti.

Leggi la guida →

Iniezione di chiamate di funzione

MEDIUM

Forza gli LLM a richiamare funzioni o API non previste manipolando le descrizioni degli strumenti e il contesto della conversazione.

Leggi la guida →

Esempi contraddittori

LOW

Crea sottili perturbazioni di input che causano una classificazione errata dei modelli o la produzione di output errati, prendendo di mira modelli visivi, audio e di testo.

Leggi la guida →

Ultime aggiunte

Pronto a mettere alla prova le tue abilità?

Applica ciò che hai imparato con le nostre guide pratiche ai test e i consigli sugli strumenti.

Strumenti di navigazione → Ottieni liste di controllo → Visualizza metodologia →
AH
AI Hacking Team

The AI Hacking team researches and documents AI/LLM security vulnerabilities, red teaming techniques, and defensive strategies. Our guides are based on real-world pentesting experience and continuous monitoring of the AI security landscape.

Frequently Asked Questions

What are the most common techniques for attacking AI systems?
The most common AI attack techniques include prompt injection (direct and indirect), model extraction via API queries, data exfiltration through LLM outputs, adversarial example generation, supply chain attacks via trojaned models, and denial-of-service against inference endpoints.
How do prompt injection attacks work in practice?
Prompt injection works by crafting input that overrides the AI's system instructions. Attackers use techniques like: role-playing (convincing the AI it is in debug mode), delimiter injection (breaking out of input boundaries), encoding bypasses (Base64, Unicode), and indirect injection through documents, web pages, or MCP tool outputs the AI processes.
What is model extraction and how can it be performed?
Model extraction is the process of stealing an AI model's capabilities by sending carefully crafted API queries and analyzing the outputs. Attackers perform extraction via: black-box probing to reconstruct model behavior, side-channel attacks on hardware, and exploiting verbose error messages that leak model architecture details.
How do supply chain attacks target AI/ML systems?
Supply chain attacks target AI/ML systems through: trojaned models on repositories like Hugging Face containing hidden backdoors, typosquatting packages mimicking popular libraries (TensorFlow, PyTorch, transformers), compromised CI/CD pipelines injecting malicious code, and poisoned training data from untrusted sources.

Stay Ahead of AI Security

Get the latest AI/LLM security research, OWASP updates, and new vulnerabilities delivered straight to your inbox.