Ich hacke
I Sicherheitsressourcen
🔄 Updated November 2026

OWASP Top 10 für Agentenanwendungen 2026

Spezifische Sicherheitsrisiken für autonome KI-Agenten und mehrstufige KI-Workflows

30+
CP CVEs in 60 Tagen (Januar–Februar 2026)
Sicherheitsforschung)
36%
CP-Servern fehlt die Authentifizierung
Invariante Labore)
42,665
CP-Server sind dem Internet ausgesetzt
Sicherheitsscans)
🤖

gentische KI-Sicherheit

Im Gegensatz zu herkömmlichen LLMs planen, entscheiden, delegieren und handeln agentenbasierte KI-Systeme über Tools und Systeme hinweg. Dadurch entstehen neue Angriffsflächen, die spezielle Sicherheitsansätze erfordern. Lesen Sie unseren MCP-Sicherheitsleitfaden →

Bereit zum Testen? Nutzen Sie unsere Checkliste für KI-Pentests für Testfälle, die Zielmissbrauch, Werkzeugmissbrauch, übermäßige Entscheidungsfreiheit, sofortige Injektion und Risiken in der Lieferkette abdecken.

Key insight: "At least 50% of the ten risks are directly mitigable at the API gateway layer" - Zuplo, 2026

ASI01

Gent Goal Hijack

Critical

Angreifer manipulieren die Ziele, die Planungslogik oder den Entscheidungspfad eines Agenten durch schädliche Inhalte in Eingaben wie E-Mails, Dokumenten, RAG-Daten oder Webinhalten.

Angriffsvektoren
  • Direkte sofortige Injektion über vergiftete Dokumente
  • Kalender/Meeting lädt dazu ein, die Zielprioritäten zu ändern
  • AG-Dokumentinjektion zur Umleitung der Agentenziele
  • Manipulation der Zielpersistenz zwischen Sitzungen
Beispiele aus der realen Welt
  • Alicious E-Mail ändert die Ausgabenprioritäten des Finanzagenten
  • Vergiftetes GitHub-Problem/PR-Inhalt, der in den Agentenkontext eingefügt wurde
  • Eeting lädt dazu ein, die Aufgabenhierarchien der Agenten subtil zu ändern
Klagestrategien
  • Implementieren Sie Prompt-Firewalls, um Zielmanipulationen zu erkennen
  • Überprüfen und bereinigen Sie alle externen Inhalte vor der Verarbeitung
  • se Zielgrenzendurchsetzung und -überwachung
  • Implementieren Sie die Überprüfung der Gedankenkette
ASI02

ool Missbrauch und Ausbeutung

Critical

Legitime Tools oder Funktionen werden im Rahmen ihrer gewährten Berechtigungen missbraucht, was zu unbefugten Aktionen oder Datenzugriff führt.

Angriffsvektoren
  • QL-Injektion durch Datenbanktools
  • Dateisystemzugriff für unbefugtes Lesen/Schreiben
  • PI-Missbrauch durch gewährte Integrationen
  • ool-Parametermanipulation
Beispiele aus der realen Welt
  • ode-Ausführungstool, das zum Ausführen bösartiger Befehle verwendet wird
  • atabase-Tool zur Datenexfiltration ausgenutzt
  • Dateisystem-Tool zum Zugriff auf vertrauliche Verzeichnisse
Klagestrategien
  • Implementieren Sie strenge Autorisierungs- und Prüfprotokolle für die Toolnutzung
  • Überprüfen Sie alle Werkzeugparameter vor der Ausführung
  • Wenden Sie die geringste Berechtigung auf Werkzeugberechtigungen an
  • se Sandbox-Ausführungsumgebungen
ASI03

Identitäts- und Privilegienmissbrauch

High

Agenten erben oder delegieren Anmeldeinformationen ohne ordnungsgemäße Festlegung des Geltungsbereichs, was zu Zuordnungslücken und dem Risiko einer Rechteausweitung führt.

Angriffsvektoren
  • Redential-Delegation ohne ordnungsgemäße Festlegung des Umfangs
  • Alte Verwechslung zwischen menschlichen Handlungen und Handlungen von Agenten
  • Eskalation von Rivilegien durch Agentenaktionen
  • Identitätsspoofing in Multiagentensystemen
Beispiele aus der realen Welt
  • Gent verwendet Entwickleranmeldeinformationen für Produktionsänderungen
  • Gent-Aktionen werden in Audit-Protokollen als menschlich angezeigt
  • Umgehung der ultimativen Mandantenisolation durch Agentenidentität
Klagestrategien
  • Implementieren Sie agentenspezifisches Identitäts- und Zugriffsmanagement
  • Dies sind kurzlebige Token mit begrenztem Umfang
  • Trennen Sie Agentenberechtigungen von menschlichen Anmeldeinformationen
  • nforce-Attribution in allen Agentenaktionsprotokollen
ASI04

Gentic-Schwachstellen in der Lieferkette

High

Kompromittierte oder anfällige Komponenten im Agent-Tool-Ökosystem, einschließlich bösartiger Tools, Plugins und kompromittierter Agent-Frameworks.

Angriffsvektoren
  • Alicious-Tool-Injektionen in Agenten-Workflows
  • Kompromittierte Tool-Anbieter oder Registrys
  • Vergiftete Tool-Definitionen mit Hintertüren
  • Ramework-Schwachstellen in Orchestrierungsebenen
Beispiele aus der realen Welt
  • rojanisiertes npm/pypi-Paket in Agentenabhängigkeiten
  • Alicious MCP-Server mit Datenexfiltration
  • Kompromissloses LangGraph oder ein ähnliches Framework
Klagestrategien
  • Überprüfen Sie die Integrität des Werkzeugs durch Signaturen und Prüfsummen
  • Pflegen Sie die SBOM für alle Agentenkomponenten
  • Sehen Sie sich vertrauenswürdige Register an und überprüfen Sie die Herkunft des Tools
  • kann Abhängigkeiten für bekannte Schwachstellen aufweisen
ASI05

erwartete Codeausführung

Critical

Agenten führen Code oder Befehle aus, die nicht vom Systemdesign vorgesehen waren, was zu Sicherheitslücken bei der Remote-Codeausführung führt.

Angriffsvektoren
  • Dynamische Codegenerierung ohne ordnungsgemäßes Sandboxing
  • Befehlsinjektion durch vom Agenten generierte Anrufe
  • Nsafe-Deserialisierung in Agent-Workflows
  • Schreiben einer beliebigen Datei über Agentenaktionen
Beispiele aus der realen Welt
  • gent, der bösartige SQL-Abfragen generiert und ausführt
  • ode-Interpreter-Tool, das Angreifer-Payloads ausführt
  • Höllenbefehle, die in die Agentenausgabe eingefügt werden
Klagestrategien
  • andbox alle Codeausführungsumgebungen
  • Implementieren Sie eine strikte Eingabevalidierung für generierten Code
  • Sehen Sie sich Zulassungslisten für zulässige Vorgänge an
  • Wenden Sie Timeout- und Ressourcenlimits für die Ausführung an
ASI06

Emory und Context Poisoning

High

Angreifer vergiften das Gedächtnis, den Kontext oder die Abrufsysteme des Agenten, um zukünftiges Verhalten zu beeinflussen oder Informationen zu extrahieren.

Angriffsvektoren
  • Vergiftungsvektordatenbank mit böswilligen Einbettungen
  • AG-Abrufmanipulation für Zieldrift
  • Langzeitgedächtnis-Injektion falscher Daten
  • Kontamination des Ross-Sitzungskontexts
Beispiele aus der realen Welt
  • Alicious-Dokumente werden in den RAG-Ergebnissen höher eingestuft
  • auch im Agentenspeicher gespeicherte Informationen
  • ector DB-Injektion verändert das Abrufverhalten
Klagestrategien
  • Validieren und bereinigen Sie alle Daten vor der Speicherung
  • Ergänzen Sie das Retrieval-Ranking mit Sicherheitssignalen
  • se-Verschlüsselung für sensible Speicherinhalte
  • Überwachungsspeicher für anomale Änderungen
ASI07

Sichere Kommunikation zwischen Agenten

Medium

Der Kommunikation zwischen Agenten mangelt es an angemessenen Sicherheitskontrollen, die ein Abfangen, Manipulieren oder Identitätswechsel ermöglichen.

Angriffsvektoren
  • Abfangen von Nachrichten in der Agentenkommunikation
  • Gent-Identitätswechsel in Multiagentensystemen
  • Manipulation von Nachrichten zwischen Agenten
  • Bestätigung der Authentifizierung zwischen Agenten
Beispiele aus der realen Welt
  • Ein Agent gibt sich als ein anderer aus, um Kontrollen zu umgehen
  • ein In-Middle-Angriff zwischen Agentenkommunikation
  • Essage-Replay-Angriffe in Agenten-Workflows
Klagestrategien
  • Implementieren Sie gegenseitiges TLS für die Agentenkommunikation
  • se signierte Nachrichten zwischen Agenten
  • Authentifizieren Sie Agentenidentitäten in der gesamten Kommunikation
  • Führen Sie Nachrichtenvalidierung und Integritätsprüfungen durch
ASI08

aufsteigende Fehler

Medium

Der Ausfall eines Agenten, Tools oder einer Komponente breitet sich im System aus und führt zu weitreichenden Störungen oder Sicherheitslücken.

Angriffsvektoren
  • einzige Fehlerquelle bei der Agenten-Orchestrierung
  • Fehlerbehandlung bei der Offenlegung sensibler Daten
  • Allback-Mechanismen, die Sicherheitskontrollen umgehen
  • Ekursive Agentenschleifen verbrauchen Ressourcen
Beispiele aus der realen Welt
  • Fehlerhafte Validierung, die alle Anfragen durchlässt
  • Fehlermeldungen, die Systemaufforderungen offenlegen
  • Allback-Agent unter Umgehung von Genehmigungsworkflows
Klagestrategien
  • Leistungsschalter für Agentenkomponenten ergänzen
  • Entwerfen Sie eine anmutige Degradierung unter Wahrung der Sicherheit
  • Durch die Alidate-Fehlerbehandlung werden keine sensiblen Daten offengelegt
  • et Ausführungsbeschränkungen, um Endlosschleifen zu verhindern
ASI09

Ausnutzung des Vertrauens zwischen Menschen und Agenten

Medium

Agenten nutzen das Vertrauen der Benutzer durch Manipulation, Social Engineering oder durch die Darstellung irreführender Informationen als sachlich aus.

Angriffsvektoren
  • falsche Informationen als sichere Tatsachen ablehnen
  • Benutzer durch überzeugende Ergebnisse animieren
  • einstmals bestehende Unsicherheiten oder Fehler
  • Ausnutzen der übermäßigen Abhängigkeit des Menschen von Agentenausgaben
Beispiele aus der realen Welt
  • Gent fabriziert Informationen mit hoher Sicherheit
  • Ode mit Sicherheitslücken, die als sicher dargestellt werden
  • iding Einschränkungen oder Fehler von Benutzern
Klagestrategien
  • Implementierung der Unsicherheitsquantifizierung und -kommunikation
  • risikoreiche Handlungen bedürfen der Zustimmung des Menschen
  • DD-Konfidenzwerte für Agentenausgaben
  • Informieren Sie Benutzer über die Einschränkungen von Agenten
ASI10

ogue-Agenten

High

Agenten gehen über ihren vorgesehenen Umfang hinaus, bleiben unangemessen bestehen oder führen nicht autorisierte Aktionen über Sitzungen oder Systeme hinweg aus.

Angriffsvektoren
  • Gent setzt Aufgaben fort, nachdem die Autorisierung abgelaufen ist
  • Spawnen oder Replizieren von nicht autorisierten Agenten
  • Gent-Aktionen bleiben über Benutzersitzungen hinweg bestehen
  • Gent-Eskalation zu Funktionen auf Administratorebene
Beispiele aus der realen Welt
  • Der Hintergrundagent wird nach der Abmeldung des Benutzers fortgesetzt
  • Ein autorisierter Agent greift auf andere Benutzerdaten zu
  • Agent, der den Zugriff nach Abschluss der Aufgabe aufrechterhält
Klagestrategien
  • Implementieren Sie das Sitzungslebenszyklusmanagement
  • Erzwingen Sie den Ablauf und die Bereinigung von Aufgaben
  • Monitor für unbefugtes Agenten-Spawnen
  • strenge Kündigungsbedingungen anwenden

odell Context Protocol (MCP)-Sicherheit

MCP ermöglicht KI-Assistenten die Verbindung mit externen Tools und Datenquellen und führt so zu neuen Sicherheitsaspekten.

CP-Sicherheitsrisiken

  • vertrauenswürdige MCP-Server mit bösartigen Fähigkeiten
  • ata-Exfiltration durch MCP-Tool-Zugriff
  • ool Definition Vergiftung
  • Übermäßige Berechtigungen für MCP-Server

Best Practices für CP-Sicherheit

  • Überprüfen Sie die Authentizität und Herkunft des MCP-Servers
  • Wenden Sie die geringste Berechtigung auf die MCP-Tool-Berechtigungen an
  • Überprüfen Sie die gesamte MCP-Serverkommunikation
  • se Netzwerkisolation für MCP-Server

gentische Sicherheitsarchitektur

Schritt 1: Eingabevalidierung

  • Verwenden Sie Firewalls zur Erkennung von Zielhijacking
  • Eingangsdesinfektion zur Verhinderung von Injektionen
  • aßbegrenzung, um Ressourcenmissbrauch zu verhindern
  • Inhaltsfilterung für externe Daten

Schritt 2: Agent Sandbox

  • isolierte Ausführungsumgebungen
  • Ressourcenlimits (CPU, Speicher, Netzwerk)
  • Netzwerksegmentierung
  • ontainerisierte Werkzeugausführung

Schritt 3: Werkzeugautorisierung

  • Detailliertes Berechtigungs-Scoping
  • ool verwenden Genehmigungsworkflows
  • Audit-Protokollierung aller Tool-Aufrufe
  • zeitlich begrenzter Werkzeugzugriff

Schritt 4: Überwachung und Reaktion

  • Echtzeitüberwachung des Agentenverhaltens
  • Normalerkennung für Agentenaktionen
  • Automatisierte Bedrohungsreaktion
  • umfassende Audit-Trails
AH
AI Hacking Team

The AI Hacking team researches and documents AI/LLM security vulnerabilities, red teaming techniques, and defensive strategies. Our guides are based on real-world pentesting experience and continuous monitoring of the AI security landscape.

Frequently Asked Questions

Was ist Agent Hijacking?
Agent Hijacking (ASI01) ist das größte Risiko in den OWASP Agentic Top 10 2026. Angreifer manipulieren die Ziele und Planungslogik eines Agenten durch schädliche Inhalte in Eingaben wie E-Mails, Dokumenten oder Webinhalten.
Was sind die Top 10 der OWASP-Agenten?
Die OOWASP Top 10 für Agentenanwendungen 2026 sind das erste umfassende Rahmenwerk, das kritische Sicherheitsrisiken bei autonomen KI-Agenten identifiziert, darunter Zielhijacking, Werkzeugmissbrauch, Identitätsmissbrauch und Schwachstellen in der Lieferkette.
Wie schütze ich KI-Agenten vor der Übernahme von Zielen?
Implementieren Sie zeitnahe Firewalls, um Zielmanipulationen zu erkennen, alle externen Inhalte vor der Verarbeitung zu validieren und zu bereinigen, nutzen Sie die Durchsetzung von Zielgrenzen und implementieren Sie eine Gedankenkettenüberprüfung für Agentenentscheidungen.
Was ist Werkzeugmissbrauch in der Agenten-KI?
Werkzeugmissbrauch (ASI02) liegt vor, wenn legitime Werkzeuge oder Funktionen im Rahmen ihrer gewährten Berechtigungen für nicht autorisierte Aktionen ausgenutzt werden. Beispiele hierfür sind SQL-Injection durch Datenbanktools, Dateisystemmissbrauch und API-Ausnutzung durch KI-Agenten.

Stay Ahead of AI Security

Get the latest AI/LLM security research, OWASP updates, and new vulnerabilities delivered straight to your inbox.