AI Hacking
AI-beveiligingsbronnen

Aanvalsgidsen Hub

Uitgebreide handleidingen over AI- en LLM-beveiligingsaanvaltechnieken. Elke gids bevat voorbeelden uit de praktijk, ernstbeoordelingen en defensieve tegenmaatregelen.

Beginnerspad

Nieuw bij AI-beveiliging? Volg deze aanbevolen leesvolgorde:

  1. OWASP LLM Top 10 — Begrijp het landschap van LLM-beveiligingsrisico's.
  2. Prompt Injection Guide — Beheers de #1 LLM-kwetsbaarheid met praktische voorbeelden.
  3. RAG Beveiliging — Ontdek hoe RAG-systemen kunnen worden vergiftigd en gemanipuleerd.
  4. MCP-beveiliging — Ontdek kwetsbaarheden in het Model Context Protocol.
  5. Red Teaming-methodologie — Pas gestructureerde vijandige tests toe op AI-systemen.

Aanvalstechnieken per categorie

Prompt Injection

CRITICAL

Manipuleer LLM-gedrag door kwaadaardige invoer te maken. Inclusief directe injectie, indirecte injectie via externe gegevensbronnen en jailbreaks met meerdere beurten.

Gids lezen →

Data-exfiltratie

CRITICAL

Extraheer gevoelige trainingsgegevens, systeemprompts of interne configuraties uit LLM API's en modeleindpunten.

Gids lezen →

Modelextractie

HIGH

Steel modelgewichten, architectuur of mogelijkheden via zorgvuldig opgestelde queries en outputanalyse.

Gids lezen →

Aanvallen op de toeleveringsketen

HIGH

Vergiftig modelregisters, breng trainingspijplijnen in gevaar of injecteer kwaadaardige code in AI-frameworks en -afhankelijkheden.

Gids lezen →

RAG-vergiftiging

HIGH

Injecteer kwaadaardige documenten in vectordatabases, manipuleer insluitingen of vergiftig de resultaten van het ophalen om de LLM-uitvoer te wijzigen.

Gids lezen →

Agentische doelkaping

MEDIUM

Leid autonome AI-agenten om van hun beoogde doelen naar kwaadaardige doelen door context- of tool-uitvoer te manipuleren.

Gids lezen →

Functieoproep Injectie

MEDIUM

Dwing LLM's om onbedoelde functies of API's aan te roepen door toolbeschrijvingen en gesprekscontext te manipuleren.

Gids lezen →

Tegenstrijdige voorbeelden

LOW

Creëer subtiele invoerverstoringen die ervoor zorgen dat modellen een verkeerde classificatie geven of onjuiste uitvoer produceren, waarbij u zich richt op visie-, audio- en tekstmodellen.

Gids lezen →

Laatste toevoegingen

Klaar om je vaardigheden te testen?

Pas het geleerde toe met onze praktijkgerichte testhandleidingen en gereedschapsaanbevelingen.

Browse Tools → Ontvang checklists → Methodologie bekijken →
AH
AI Hacking Team

The AI Hacking team researches and documents AI/LLM security vulnerabilities, red teaming techniques, and defensive strategies. Our guides are based on real-world pentesting experience and continuous monitoring of the AI security landscape.

Frequently Asked Questions

What are the most common techniques for attacking AI systems?
The most common AI attack techniques include prompt injection (direct and indirect), model extraction via API queries, data exfiltration through LLM outputs, adversarial example generation, supply chain attacks via trojaned models, and denial-of-service against inference endpoints.
How do prompt injection attacks work in practice?
Prompt injection works by crafting input that overrides the AI's system instructions. Attackers use techniques like: role-playing (convincing the AI it is in debug mode), delimiter injection (breaking out of input boundaries), encoding bypasses (Base64, Unicode), and indirect injection through documents, web pages, or MCP tool outputs the AI processes.
What is model extraction and how can it be performed?
Model extraction is the process of stealing an AI model's capabilities by sending carefully crafted API queries and analyzing the outputs. Attackers perform extraction via: black-box probing to reconstruct model behavior, side-channel attacks on hardware, and exploiting verbose error messages that leak model architecture details.
How do supply chain attacks target AI/ML systems?
Supply chain attacks target AI/ML systems through: trojaned models on repositories like Hugging Face containing hidden backdoors, typosquatting packages mimicking popular libraries (TensorFlow, PyTorch, transformers), compromised CI/CD pipelines injecting malicious code, and poisoned training data from untrusted sources.

Stay Ahead of AI Security

Get the latest AI/LLM security research, OWASP updates, and new vulnerabilities delivered straight to your inbox.