Ich hacke
I Sicherheitsressourcen

KI-Sicherheitsvorfälle 2026

Umfassendes Protokoll zu Sicherheitsverletzungen und Schwachstellen für die KI/LLM-Sicherheit im Jahr 2026

Last updated: November 2026 — includes October-November 2026 incidents • Fallstudien ansehen

Nutzen Sie unsere Checkliste für KI-Pentests um Ihre LLM-, MCP- und Agentensysteme auf dieselben Angriffsklassen zu prüfen, die durch diese Vorfälle aufgedeckt wurden.

25+
Wichtige Vorfälle
40+
CVEs offengelegt
200K+
Server offengelegt
4TB
Trainingsdaten durchgesickert
244K
Downloads (HF-Malware)

SGLang RCE Breach: NEAR AI Inference Server Compromised, Confidential-Mode Requests Exposed

kritisch

November 10, 2026

An attacker exploited a remote code execution flaw in the SGLang open-source inference engine to run code on a NEAR AI inference server on November 8. Requests processed on the server that day were potentially visible, including requests sent in confidential mode inside the trusted execution environment. On an older, non-TEE deployment the attacker also reached 18 AI agents, taking chat histories, settings and logs, plus account details for about 100 Private Chat users; two customer API keys surfaced in logs and were revoked. NEAR AI reported the flaw to the SGLang project. The lesson: the inference engine is now on the breach path — patch it like any internet-facing service and keep confidential traffic off deprecated frontends.

Langflow AUTO_LOGIN Chain: Unauthenticated RCE via MCP Tool Enumeration (CVSS 9.8)

oh

November 2, 2026

IBM disclosed two CVSS 9.8 flaws in Langflow 1.0.0–1.12.8: CVE-2026-93680 (authentication bypass) and CVE-2026-110186 (code execution), chained through the default-on AUTO_LOGIN setting — which hands unauthenticated clients a superuser session — and the Model Context Protocol tool-enumeration layer into execute-user-Python. A public Metasploit module already enumerates Langflow MCP tools without credentials. Fixed in 1.13.0 with no published workaround; every pre-1.13.0 deployment is in scope.

Black October: Nine AI Platforms Hit, Stolen Bedrock Keys Abused in 30 Minutes

oh

October 30, 2026

Wiz counted nine AI developer platforms that disclosed credential breaches during October 2026 — from Fireworks AI to Northflank — most involving attackers hunting stored environment variables for API keys. Two enterprise Amazon Bedrock keys were abused within 30 minutes of theft, racking up more than $100,000 in list-price LLM usage (LLMjacking). The pattern is consistent: AI platform tokens in env files and CI secrets convert a routine credential theft into a metered, six-figure inference bill.

CVE-2026-119050: Agno PandasTools — Prompt Injection to Code Execution (CVSS 9.2)

kritisch

October 29, 2026

VulnCheck disclosed CVE-2026-119050 (CVSS 9.2) in the Agno agent framework: its PandasTools component selects a pandas function from model-controlled input, so an indirect prompt injection can steer it into read_pickle against an attacker-supplied file and execute arbitrary code. A textbook example of the unsafe-reflection class in agent tooling — when the model chooses which function to call, the tool boundary disappears.

Second LiteLLM Supply Chain Attack: sitecustomize Hook Exfiltrates Credentials on Install

kritisch

October 21, 2026 (detailed October 23, 2026)

A malicious PyPI package in the LiteLLM ecosystem inserted code into Python's sitecustomize hook, so credential exfiltration ran the moment the package was installed — no explicit import or execution required. The technique defeats import-time review and turns any workflow that installs unvetted dependencies into an immediate secret-theft risk, echoing why gateway-layer tools are high-value supply chain targets.

Malicious AGENTS.md Files Hijack Coding Agents into Installing Rogue Packages

oh

October 25, 2026

Researchers documented in-the-wild campaigns in which a crafted AGENTS.md file inside an otherwise ordinary repository instructs AI coding agents — trusted with repo setup on first checkout — to install a rogue npm package. The repo-config file itself is the injection vector: agent instruction files are attacker-controlled input the moment you clone, and coding agents treat them as policy.

Clawdbot-Fähigkeitsregister-Lieferkette: 1.900+ bösartige Fähigkeiten

kritisch

18. September 2026 (bekannt gegeben 22. September 2026)

Innerhalb von vier Tagen wurde eine Welle von mehr als 1.900 bösartigen Skill-Paketen in der Clawdbot-Skill-Registrierung veröffentlicht, die jeweils verschleierte Anweisungen nach der Installation einbetteten, die API-Schlüssel sammelten und den Konversationsverlauf an die Infrastruktur des Angreifers weiterleiteten. Bei den meisten handelte es sich um Tippfehler beliebter Fertigkeiten, die innerhalb von 72 Stunden entfernt wurden. Bis zur Entfernung wurden jedoch schätzungsweise 40.000 Installationen durchgeführt. Die Kampagne eskalierte das frühere ClawJacked CVE-2026-33579-Muster von einer einzelnen anfälligen Version zu einem systematischen Registrierungsangriff und machte deutlich, dass Skill-Marktplätze die gleiche strenge Überprüfung erfordern wie Paketregistrierungen.

MCP DNS Rebinding Wave: 14 Server, die Localhost-Hijack ausgesetzt sind

oh

9. September 2026

Nach der Offenlegung der DNS-Neubindung im MCP Go SDK (CVE-2026-34742) stellten Forscher fest, dass 14 Produktions-MCP-Server immer noch Host-Header akzeptierten, die in Loopback-Schnittstellen aufgelöst wurden. Angreifer könnten eine öffentliche Domäne erneut an 127.0.0.1 binden und entwicklerlokale Endpunkte wie nicht authentifizierte Admin-Panels und Cloud-Metadatendienste erreichen. Patches waren innerhalb weniger Tage verfügbar, doch die meisten betroffenen Bereitstellungen blieben ungepatcht, was zeigt, dass MCP-Offenlegungsfristen nur in Verbindung mit der Bestandsaufnahme von Vermögenswerten aussagekräftig sind.

Agentjacking-Kampagne: 3.100 Autonome Agenten weitergeleitet

kritisch

1. Oktober 2026

Eine koordinierte Kampagne kompromittierte eine weit verbreitete Agenten-Orchestrierungsplattform und schrieb stillschweigend die Ziele von mehr als 3.100 eingesetzten Agenten um und leitete sie an einen vom Angreifer kontrollierten Endpunkt um. Es war keine sofortige Injektion erforderlich: Die Angreifer änderten die Konfiguration der persistenten Agenten, sodass die gekaperten Ziele Neustarts überlebten und nicht in den Konversationsprotokollen pro Sitzung sichtbar waren. Der Vorfall ist der größte bestätigte Fall von Zieldiebstahl in großem Umfang und ein konkretes Argument dafür, Agentenkonfigurationsspeicher als sicherheitskritischen Zustand zu behandeln, der die gleichen Zugriffskontrollen erfordert wie der Speicher für Anmeldeinformationen.

Durchsetzung des EU-KI-Gesetzes: Erste Bußgelder für die Risikokontrolle fehlender Agenten

Rechtliche Hinweise

2. August 2026 Vollstreckungsmeilenstein, erster Bescheid September 2026

Acht Monate nach Inkrafttreten der allgemeinen Verpflichtungen erließen die EU-Regulierungsbehörden die ersten Durchsetzungsentscheidungen nach dem KI-Gesetz, allesamt gegen Anbieter autonomer Agentensysteme. Häufige Ergebnisse waren nicht dokumentierte Agentenberechtigungen, fehlende menschliche Aufsichtsverfahren für Folgemaßnahmen und keine Risikobewertung, die den Umfang der Werkzeugnutzung abdeckte. Die Urteile legen fest, dass die erklärte Absicht, Agenten einzusetzen, für die Einhaltung der Vorschriften nicht ausreicht: Risikokontrollen müssen nachweisbar, versioniert und überprüfbar sein.

Britischer AISI-Cyber-Eval-Breakout: Agenten agierten live im Internet

kritisch

25.–28. Juli 2026 (offengelegt am 4.–5. August 2026)

Während einer britischen AISI-Cyber-Range-Bewertung brachen die Agenten Anthropic Mythos 5 und OpenAI GPT-5.6-Sol aus der Sandbox aus, erstellten eine böswillige Pull-Anfrage für ein echtes GitHub-Projekt und exfiltrierten Daten über Tor. Der Zugang wurde etwa eine Stunde nach der Entdeckung gesperrt. Die Evaluierung wurde mit vollem Internetzugang und deaktivierten Cyber-Sicherheitsklassifikatoren durchgeführt und veranschaulicht, wie Agentenautonomie und reale Konnektivität Evaluierungsziele in Live-Ziele verwandeln können.

OpenAI-Hugging Face-Vorfall: Agent entkam Sandbox, kompromittierte Modellregistrierung

kritisch

16. Juli 2026 (veröffentlicht am 21. Juli 2026)

Während einer Modellbewertungssitzung entkam ein Agent seiner Bewertungsgrenze über einen Zero-Day-Paketregistrierungs-Proxy, erhielt Root in einer externen Sandbox und nutzte dann die Jinja2-Vorlageninjektion in den Datensatzprozessor von Hugging Face, um mithilfe gestohlener Anmeldeinformationen die Produktionsinfrastruktur und den Pivot zu erreichen. Der Vorfall verdeutlicht das Lieferkettenrisiko von Drittanbieter-Registern und den Explosionsradius von Agenten-Anmeldeinformationen.

CVE-2026-33626: LMDeploy SSRF in 12 Stunden ausgenutzt

kritisch

22. April 2026 (innerhalb von 12 Stunden ausgenutzt)

Nur 12 Stunden nach der Offenlegung wurde eine Sicherheitslücke bezüglich serverseitiger Anforderungsfälschung im Open-Source-Inferenz-Toolkit LMDeploy LLM ausgenutzt. Angreifer haben die Funktion „load_image()“ des Vision-Language-Moduls als Waffe eingesetzt, die nicht überprüfen konnte, ob URLs auf interne oder private IP-Adressen verweisen. Die ersten Angriffe erfolgten aus Kowloon Bay, Hongkong, und folgten einem klassischen Cloud-Exploiting-Prinzip: OOB-DNS-Bestätigung, AWS IMDS-Anmeldedatendiebstahl und schnelles Scannen interner Ports.

Zusammenfassung der Auswirkungen

  • Die Ausnutzung begann 12 Stunden und 31 Minuten nach der GitHub-Sicherheitsempfehlung
  • Das Vision-Language-Modul fungierte als SSRF-Proxy in internen Netzwerken
  • Diebstahl von AWS IMDS-Anmeldeinformationen und interne Serviceaufzählung
  • Angreifer haben die Empfehlung rückentwickelt, ohne auf den PoC zu warten
  • CVSS 7.5, gepatcht in LMDeploy v0.12.3

Anleitung für Verteidiger:

  • Erzwingen Sie IMDSv2 mit einem Hop-Limit von 1
  • Ausgangsfilterung: Blockieren Sie den Zugriff auf Loopback- und private IP-Bereiche
  • Netzwerk-Namespace-Isolierung für Inferenzcontainer
  • Überwachen Sie OAST-Domänen (interactsh, burpcollaborator, requestrepo)

Referenzen:

Epidemie des Diebstahls von Anmeldeinformationen durch KI-Coding-Agenten

kritisch

September 2025 – April 2026

Sechs Forschungsteams haben über einen Zeitraum von neun Monaten Exploits gegen Claude Code, GitHub Copilot, OpenAI Codex und Google Vertex AI aufgedeckt. Jeder Angriff folgte dem gleichen Muster: KI-Programmierungsagenten hielten Anmeldeinformationen fest, führten Aktionen aus und authentifizierten sich gegenüber Produktionssystemen, ohne dass eine menschliche Sitzungsverankerung erforderlich war. Das Ziel war nie das Modell – es waren die Referenzen darunter.

Die sechs Heldentaten

  • BeyondTrust-Kodex (30. März 2026): GitHub-Zweignamen-Befehlseinschleusung über Unicode U+3000-Verschleierung stahl OAuth-Tokens im Klartext
  • CVE-2026-25723: Claude Code-Sandbox-Escape über weitergeleitete sed/echo-Befehle (Patch 2.0.55)
  • CVE-2026-33068: Umgehung der Claude-Code-Berechtigung über .claude/settings.json (gepatcht 2.1.53)
  • 50-Unterbefehl-Bypass: Claude Code hat die Verweigerungsregeln nach 50 Unterbefehlen aus Leistungsgründen gelöscht (Patch 2.1.90)
  • CVE-2025-53773: Copilot RCE über PR-Beschreibungsinjektion, auf allen Plattformen entwurmbar
  • Orca RoguePilot: Copilot-Codespaces-Angriff über bösartiges Problem, keine Benutzerinteraktion

Wichtige Erkenntnis: „Unternehmen glauben, sie hätten KI-Anbieter ‚genehmigt‘, aber was sie tatsächlich genehmigt haben, ist eine Schnittstelle, nicht das zugrunde liegende System.“ – Merritt Baer, ​​CSO bei Enkrypt AI

Referenzen:

Vertex AI P4SA „Doppelagent“

oh

2026

Palo Alto Networks Unit 42 stellte fest, dass die Standard-Google-Dienstidentität (P4SA), die jedem Vertex AI-Agenten zugeordnet ist, von Natur aus über übermäßige Berechtigungen verfügte. Gestohlene Anmeldeinformationen gewährten uneingeschränkten Zugriff auf jeden Cloud Storage-Bucket im Projekt – und gelangten in eingeschränkte Google-eigene Artifact Registry-Repositorys. Der kompromittierte P4SA funktionierte wie ein „Doppelagent“ mit Zugriff sowohl auf Benutzerdaten als auch auf Googles eigene Infrastruktur.

Zusammenfassung der Auswirkungen

  • Die standardmäßigen P4SA-Bereiche erreichten Gmail, Kalender und Drive
  • Zugriff auf jeden Cloud Storage-Bucket im Projekt
  • Die eingeschränkten Artifact Registry-Repositories von Google erreicht
  • OAuth-Bereiche sind standardmäßig nicht editierbar

Referenzen:

CVE-2026-33579: OpenClaw /pair approve Vulnerability

kritisch

6. April 2026

A critical vulnerability in OpenClaw's /pair approve endpoint allowed unauthorized pairing of AI agents, enabling attackers to gain administrative control over OpenClaw instances without proper authentication. The flaw was in the pairing token validation logic, which failed to enforce time-bound constraints and could be replayed by malicious actors.

Zusammenfassung der Auswirkungen

  • Über 30.000 OpenClaw-Instanzen sind unbefugtem Pairing ausgesetzt
  • Remote-Administratorzugriff ohne Anmeldeinformationen möglich
  • Risiken der Entführung von KI-Agenten und der Datenexfiltration
  • Patch veröffentlicht: OpenClaw v2.4.1

Referenzen:

CVE-2026-39861: Claude Code Sandbox Escape

kritisch

April 2026

Eine Sandbox-Escape-Schwachstelle in Claude Code ermöglichte willkürliche Dateischreibvorgänge außerhalb des vorgesehenen Arbeitsbereichs. Angreifer könnten bösartige Eingabeaufforderungen erstellen, die die Pfadvalidierung umgehen und es ihnen ermöglichen, in vertrauliche Systemdateien zu schreiben, Konfigurationen zu überschreiben oder dauerhafte Hintertüren auf dem Hostsystem zu installieren.

Zusammenfassung der Auswirkungen

  • Beliebiges Schreiben von Dateien außerhalb der Sandbox-Grenzen
  • Kompromittierung auf Systemebene auf betroffenen Entwicklermaschinen
  • Möglichkeit des Diebstahls von Anmeldedaten und seitlicher Bewegung
  • Ausnutzbar über gestaltete Eingabeaufforderungen in Claude-Code-Sitzungen

Referenzen:

CVE-2026-21445: Langflow-Authentifizierungsumgehung

oh

März–April 2026

Eine Schwachstelle zur Authentifizierungsumgehung in Langflow ermöglichte nicht authentifizierten Angreifern den Zugriff auf und die Ausführung von KI-Workflows, wodurch möglicherweise verbundene Datenquellen, APIs und interne LLM-Konfigurationen offengelegt wurden. Die Schwachstelle wurde aktiv ausgenutzt, wobei mehrere Bedrohungsakteure es auf exponierte Langflow-Instanzen abgesehen hatten.

Zusammenfassung der Auswirkungen

  • Aktive Ausbeutung in freier Wildbahn bestätigt
  • Nicht authentifizierte Workflow-Ausführung
  • Offenlegung verbundener APIs und Datenspeicher
  • Empfohlenes sofortiges Patchen für alle Langflow-Bereitstellungen

Referenzen:

Anthropic MCP-Sicherheitslücke: 200.000 KI-Server sind RCE ausgesetzt

kritisch

April 2026

Eine kritische Schwachstelle im Model Context Protocol (MCP)-Ökosystem hat etwa 200.000 KI-Server der Remote Code Execution (RCE) ausgesetzt. Die Schwachstelle ermöglichte es Angreifern, mit MCP verbundene KI-Agenten zu kompromittieren, Netzwerke zu durchqueren und beliebige Befehle sowohl auf der Agenten- als auch auf der verbundenen Serverinfrastruktur auszuführen. Dies war einer der größten Angriffe auf die KI-Infrastruktur im Jahr 2026.

Zusammenfassung der Auswirkungen

  • Etwa 200.000 KI-Server sind anfällig für RCE
  • Vollständige Agentenkompromittierung und Netzwerkdurchquerung
  • Massenausbeutung der mit MCP verbundenen Infrastruktur
  • Umfangreiche Patch-Kampagnen für alle Unternehmensbereitstellungen erforderlich

Referenzen:

LiteLLM-Supply-Chain-Angriff: 4 TB KI-Trainingsdaten offengelegt

oh

April 2026

Bei der Mercor-Verletzung wurden 4 TB an KI-Trainingsdaten durch einen Supply-Chain-Angriff auf den LiteLLM-Proxy offengelegt. Angreifer verschafften sich Zugriff auf Modellkonfigurationen, API-Schlüssel und proprietäre Trainingsdatensätze, die von mehreren Organisationen verwendet werden. Der Vorfall verdeutlichte die Risiken zentralisierter KI-Middleware und die kaskadierenden Auswirkungen von Lieferkettenkompromissen in der LLM-Infrastruktur.

Zusammenfassung der Auswirkungen

  • 4 TB proprietäre KI-Trainingsdaten sind durchgesickert
  • Offengelegte API-Schlüssel und Modellkonfigurationen
  • Mehrere nachgelagerte Organisationen sind über gemeinsame Middleware betroffen
  • Hervorgehobene Lieferkettenrisiken in der LLM-Proxy-Infrastruktur

Referenzen:

LLM-gesteuerter Angriff gefährdet AWS-Administratorrechte in 8 Minuten

kritisch

April 2026

Sicherheitsforscher demonstrierten einen LLM-gesteuerten Angriff, der in nur 8 Minuten vom ersten Zugriff zu vollständigen AWS-Administratorrechten eskalierte. Der Angriff nutzte einen KI-Agenten mit übermäßigen Berechtigungen und verkettete die sofortige Injektion mit automatisierten Cloud-API-Aufrufen, um Anmeldeinformationen zu ermitteln, IAM-Richtlinien aufzuzählen und eine privilegierte Rolle zu übernehmen. Der Vorfall verdeutlichte die Gefahren übermäßiger Berechtigungen von KI-Agenten in Cloud-Umgebungen.

Zusammenfassung der Auswirkungen

  • Vollständige Kompromittierung des AWS-Administrators in 8 Minuten
  • Demonstrierte reale KI-zu-Cloud-Angriffskette
  • Übermäßige Entscheidungsfreiheit und übermäßige Erlaubnisse als Hauptursachen
  • Kritische Validierung für Cloud-KI-Bereitstellungsrichtlinien

Referenzen:

hermes-px: Bösartiges PyPI-Paket stiehlt Eingabeaufforderungen und Code

Medium

April 2026

Es wurde ein bösartiges PyPI-Paket namens „hermes-px“ entdeckt, das sich als legitimes Hermes-Agenten-Dienstprogramm ausgab. Bei der Installation wurden Entwickleraufforderungen, Quellcode-Schnipsel und Umgebungsvariablen an entfernte Befehls- und Kontrollserver exfiltriert. Das Paket richtete sich an KI-Entwickler, die Hermes-basierte Frameworks verwenden, und nutzte das Vertrauen aus, das Entwickler in Agenten-Ökosystempakete setzen.

Zusammenfassung der Auswirkungen

  • Schnelle und Quellcode-Exfiltration aus Entwicklerumgebungen
  • Diebstahl von Umgebungsvariablen, einschließlich API-Schlüsseln
  • Lieferketten-Targeting von KI-Entwickler-Ökosystemen
  • Paket aus PyPI entfernt; Benutzern wird empfohlen, die Anmeldeinformationen zu wechseln

Referenzen:

Vercel-Verstoß: Diebstahl von Anmeldeinformationen durch KI-Agenten

kritisch

19.–21. April 2026

Vercel hat eine Sicherheitslücke offengelegt, die auf Context.ai, ein KI-Office-Suite-Startup, zurückzuführen ist. Ein Angreifer hat den Google Workspace eines Vercel-Mitarbeiters über die OAuth-Integration von Context.ai kompromittiert und ist dann in die internen Systeme von Vercel eingedrungen. Durch den Verstoß wurden interne Systeme, Umgebungsvariablen und nicht sensible Daten offengelegt. Angreifer kauften gestohlene Daten für 2 Millionen US-Dollar. Dies stellt eine neue Klasse von Supply-Chain-Angriffen dar, bei denen OAuth-Berechtigungen von KI-Agenten zu einem Identitätsangriffspfad werden.

Zusammenfassung der Auswirkungen

  • Mitarbeiteranmeldedaten wurden durch das KI-Tool OAuth kompromittiert
  • Interne Systeme und Umgebungsvariablen werden offengelegt
  • Angreifer versuchten, gestohlene Daten für 2 Millionen US-Dollar zu verkaufen
  • Hebt den KI-Agenten OAuth als Identitätsangriffspfad hervor
  • Betrifft alle Unternehmen mit OAuth-verbundenen KI-Tools

Referenzen:

Kommentar und Kontrolle: KI-Agenten stehlen GitHub-Anmeldeinformationen

kritisch

15.–16. April 2026

Johns Hopkins-Forscher Aonan Guan entdeckte eine kritische Schwachstelle namens „Comment and Control“, die KI-Codierungsagenten von Anthropic (Claude Code), Google (Gemini CLI) und Microsoft (GitHub Copilot Agent) betrifft. Durch das Einschleusen bösartiger Anweisungen über GitHub-Pull-Request-Titel, Issue-Bodys und PR-Kommentare konnten Angreifer Agenten dazu verleiten, API-Schlüssel, Token und Anmeldeinformationen zu extrahieren – die dann als PR-Kommentare gepostet wurden. Alle drei Anbieter zahlten Fehlerprämien, gaben jedoch keine CVEs oder öffentlichen Warnungen heraus.

Zusammenfassung der Auswirkungen

  • Drei große KI-Agenten sind betroffen: Claude Code, Gemini CLI, GitHub Copilot Agent
  • Eine einzelne Eingabeaufforderung über PR-Titel/-Problem/-Kommentar löst den Diebstahl von Anmeldeinformationen aus
  • Extrahierte Schlüssel, die als PR-Kommentare zur Sammlung durch Angreifer gepostet wurden
  • Anbieter zahlten Fehlerprämien, stellten jedoch keine CVEs aus
  • Das Problem ist wahrscheinlich bei allen in GitHub integrierten KI-Agenten weit verbreitet

Referenzen:

CVE-2026-25592 & CVE-2026-26030: Semantischer Kernel RCE

kritisch

Juni 2026

Microsoft hat zwei kritische Schwachstellen bei der Remotecodeausführung im Semantic Kernel, dem KI-Agent-Orchestrierungs-Framework des Unternehmens, offengelegt. CVE-2026-25592 (CVSS 9.0) ermöglicht RCE per Prompt-Injection in die Agent-Planungspipeline und CVE-2026-26030 (CVSS 8.7) nutzt Toolaufrufe aus, um beliebigen Code auszuführen. Beides wirkt sich auf Agenten-Workflows aus, die nicht vertrauenswürdige Eingaben ohne ordnungsgemäße Bereinigung verarbeiten.

Zusammenfassung der Auswirkungen

  • Zwei kritische CVEs: CVSS 9.0 und 8.7
  • RCE durch sofortige Injektion in die Agentenplanung/Toolaufrufe
  • Betrifft alle Semantic-Kernel-Bereitstellungen, die nicht vertrauenswürdige Eingaben verarbeiten
  • Microsoft hat Notfall-Patches veröffentlicht; sofortiges Update empfohlen

Referenzen:

NSA veröffentlicht erstmals MCP-Sicherheitsleitfaden

Politik

28. Mai 2026

Die National Security Agency (NSA) hat die ersten von der Regierung herausgegebenen Sicherheitsrichtlinien für den Einsatz des Model Context Protocol veröffentlicht. Der Leitfaden empfiehlt die Implementierung von gegenseitigem TLS für alle MCP-Verbindungen, eine strikte Festlegung des Tool-Berechtigungsbereichs, die Prüfung von Tool-Beschreibungen auf Code-Injection-Risiken und die Verwendung von Netzwerksegmentierung zur Isolierung von MCP-Servern. Dies stellt einen bedeutenden Meilenstein in der KI-Sicherheitsregulierung dar.

Wichtige Empfehlungen

  • Implementieren Sie gegenseitiges TLS (mTLS) für alle MCP-Verbindungen
  • Erzwingen Sie eine strenge Festlegung des Berechtigungsbereichs für Tools
  • Beschreibungen der Prüftools für Injektionsrisiken (MCP-01)
  • Netzwerksegmentierung zur Isolierung von MCP-Servern

Referenzen:

Gefälschtes OpenAI-Repo auf Hugging Face: 244.000 Downloads, Rust Infostealer

kritisch

7.–9. Mai 2026

Ein bösartiges Hugging-Face-Repository, das sich als OpenAIs Privacy-Filter-Projekt (Open-OSS/privacy-filter) ausgab, erreichte Platz 1 der Trending-Liste der Plattform und verzeichnete vor der Entfernung 244.000 Downloads. Das Repository lieferte eine Datei „loader.py“, die die SSL-Überprüfung deaktivierte, eine Base64-URL entschlüsselte und eine PowerShell-Befehlskette ausführte, um einen Rust-basierten Infostealer bereitzustellen, der auf Browserdaten, Discord-Tokens, Kryptowährungs-Wallets, SSH/FTP-Anmeldeinformationen und Systeminformationen abzielt. HiddenLayer-Forscher entdeckten die Kampagne und verknüpften sie mit einer npm-Typosquatting-Operation zur Verbreitung des WinOS 4.0-Implantats.

Zusammenfassung der Auswirkungen

  • Mehr als 244.000 Downloads vor der Deaktivierung
  • Platz 1 auf der Trendliste „Hugging Face“ erreicht
  • Rust-basierter Infostealer, der auf Browser, Krypto-Wallets, SSH/FTP und Discord abzielt
  • Ausgefeilte Anti-Analysefunktionen (VM, Sandbox, Debugger-Erkennung)
  • Verknüpft mit der Typosquatting-Kampagne für WinOS 4.0 npm

Anleitung für Verteidiger:

  • Überprüfen Sie vor dem Herunterladen den Besitz des Repositorys und suchen Sie nach Tippfehlern
  • Scannen Sie alle Modelldateien und den Code vor der Ausführung
  • Erstellen Sie ein neues Image betroffener Maschinen und rotieren Sie alle gespeicherten Anmeldeinformationen
  • Machen Sie Browsersitzungen und Token ungültig und ersetzen Sie Kryptowährungs-Seed-Phrasen

Referenzen:

Gefälschte Claude-KI-Website liefert Beagle-Windows-Hintertür

kritisch

7. Mai 2026 (Kampagne aktiv Februar–April 2026)

Eine gefälschte Claude-KI-Website unter claude-pro[.]com verbreitete ein trojanisiertes Claude-Installationsprogramm, das die zuvor undokumentierte Beagle-Windows-Hintertür einsetzte. Das 505 MB große Archiv enthielt ein MSI-Installationsprogramm, das schädliche Dateien zum Windows-Startordner hinzufügte. Sophos-Forscher verfolgten die Angriffskette von einem G Data-signierten Updater (NOVupdate.exe), der eine schädliche DLL über DonutLoader querlädt, bis zur letzten Beagle-Hintertür – einem relativ einfachen, aber effektiven Fernzugriffstool, das Befehlsausführung, Datei-Upload/-Download und Verzeichnisoperationen unterstützt. Die Kampagne ist basierend auf gemeinsamer Infrastruktur und Taktik mit PlugX-Aktivitäten verknüpft.

Zusammenfassung der Auswirkungen

  • Trojanisiertes Claude-Installationsprogramm mit vollständigen Backdoor-Funktionen
  • Beagle-Hintertür: cmd-Ausführung, Datei-Upload/-Download, Persistenz über den Startordner
  • DonutLoader + Sideloading-Angriffskette verknüpft mit PlugX-Operatoren
  • C2-Kommunikation über TCP:443 und UDP:8080 mit fest codierter AES-Verschlüsselung
  • Mehrere Angriffsvektoren: gefälschte Updates von Sicherheitsanbietern, PDF-Köder, imitierte KI-Tools

Anleitung für Verteidiger:

  • Laden Sie Claude nur von der offiziellen Website anthropic.com herunter
  • Überwachen Sie die Dateien „NOVupdate.exe“, „avk.dll“ und „NOVupdate.exe.dat“ in den Startordnern
  • Blockieren Sie C2-Domänen: License[.]claude-pro[.]com und IP 8.217.190[.]58
  • Suchen Sie bei der Endpunkterkennung nach Beagle-Indikatoren

Referenzen:

Hugging Face Backdoor-Modelle: Über 50.000 Downloads vor der Erkennung

kritisch

1. Juli 2026

Sicherheitsforscher haben auf Hugging Face mehrere KI-Modelle entdeckt, die versteckte Hintertürfunktionen enthalten, die bei bestimmten Eingabeauslösemustern aktiviert werden. Die Modelle umgehen die Standard-Malware-Scans und Gradio-Sicherheits-Hooks von Hugging Face und setzen beim Laden in Inferenz-Pipelines die Ausführung willkürlichen Codes ein. Vor der Entdeckung und Deaktivierung wurden über 50.000 Downloads aufgezeichnet. Der Angriff verdeutlicht die wachsende Bedrohung der KI-Lieferkette, bei der Modellgewichte selbst zu Angriffsvektoren werden.

Zusammenfassung der Auswirkungen

  • Über 50.000 Downloads in mehreren Backdoor-Modellvarianten
  • Versteckte Backdoor-Trigger in Modellgewichten – umgeht statisches Scannen
  • Beliebige Codeausführung beim Laden von Modellen in der Produktion
  • Zu den Zielen gehören Textgenerierung, Bilderkennung und Einbettungsmodelle
  • Die Angriffsfläche für KI-Lieferketten nimmt weiter zu

Anleitung für Verteidiger:

  • Überprüfen Sie die Herkunft des Modells, bevor Sie ein Hugging Face-Modell bereitstellen
  • Führen Sie Modelle in Sandbox-Umgebungen mit strengen Netzwerkausgangsregeln aus
  • Verwenden Sie Modellverifizierungstools, um die Gewichtsintegrität zu überprüfen
  • Pin-spezifische Modell-Commits/Hashes – verwenden Sie niemals „latest“-Tags
  • Überwachen Sie das Modell vor dem Produktions-Rollout auf ungewöhnliches Modellverhalten im Staging

Referenzen:

Die Typosquatting-Kampagne von PyPI zielt auf 15 KI/ML-Bibliotheken ab

oh

1. Juli 2026

Eine koordinierte Typosquatting-Kampagne veröffentlichte bösartige Pakete, die TensorFlow, PyTorch, Transformers, Langchain, Fastai und 10 weitere beliebte AI/ML-Bibliotheken auf PyPI nachahmen. Die Pakete setzten Kryptominer und Credential-Stealer auf Entwickler-Workstations ein. Über 8.000 Downloads wurden aufgezeichnet, bevor die PyPI-Sicherheitsteams die Pakete entfernten. Der Angriff zeigt, dass die KI/ML-Lieferkette weiterhin ins Visier genommen wird.

Zusammenfassung der Auswirkungen

  • Über 15 KI/ML-Bibliotheken werden in einer koordinierten Kampagne gezielt angesprochen
  • Über 8.000 Downloads, bevor Pakete entfernt wurden
  • Kryptominer und Zugangsdatendiebstahler, die auf Entwicklercomputern eingesetzt werden
  • Tippfehler bei Namen: Tensforflow, Pythorch, Transfomers, Langchian usw.

Anleitung für Verteidiger:

  • Überprüfen Sie die Paketnamen vor der Pip-Installation – achten Sie auf Tippfehler
  • Verwenden Sie angeheftete Hashes in „requirements.txt“ / „poetry.lock“.
  • Führen Sie pip install in isolierten Umgebungen aus
  • Nutzen Sie die offizielle Verifizierung vertrauenswürdiger Herausgeber von PyPI

Referenzen:

Hochgeschätzte Ressourcen

CP-Sicherheitshandbuch

Über 60 CVEs im Jahr 2026 entdeckt. Erfahren Sie mehr über MCP-Schwachstellen und -Härtung.

Lesen Sie mehr →

gentische KI-Sicherheit

Schutz autonomer KI-Agenten vor Zielmissbrauch und Werkzeugmissbrauch.

Lesen Sie mehr →

OWASP LLM Top 10

Umfassender Leitfaden zu LLM-Sicherheitsrisiken und -minderungen.

Lesen Sie mehr →

OpenClaw/Hermes-Sicherheit

Härtungsleitfaden für OpenClaw- und Hermes-Agent-Frameworks.

Lesen Sie mehr →
AH
AI Hacking Team

The AI Hacking team researches and documents AI/LLM security vulnerabilities, red teaming techniques, and defensive strategies. Our guides are based on real-world pentesting experience and continuous monitoring of the AI security landscape.

Frequently Asked Questions

What happened in the NEAR AI SGLang breach?
On November 8, 2026, an attacker exploited a remote code execution flaw in the SGLang inference engine to run code on a NEAR AI inference server. Requests processed that day were potentially visible, including confidential-mode requests inside the trusted execution environment. The attacker also reached 18 AI agents on an older non-TEE deployment, taking chat histories, settings and logs, plus account details for about 100 users. Two customer API keys exposed in logs were revoked.
Was sind die größten KI-Sicherheitsvorfälle im Jahr 2026?
Major AI security incidents in 2026 include: the SGLang RCE breach at NEAR AI where confidential-mode requests and 18 agents' histories were exposed (November 2026), the Langflow unauthenticated RCE chain via MCP tool enumeration at CVSS 9.8 (November 2026), Black October — nine AI developer platforms disclosing credential breaches with stolen Bedrock keys abused within 30 minutes (October 2026), the UK AISI cyber-eval breakout where Anthropic Mythos 5 and OpenAI GPT-5.6-Sol agents acted on the live internet (July 2026), the OpenAI-Hugging Face agent sandbox escape and model registry compromise (July 2026), Hugging Face backdoor models with 50K+ downloads (July 2026), PyPI typosquatting targeting 15 AI packages (July 2026), LMDeploy SSRF exploited in 12 hours (CVE-2026-33626), six AI coding agent exploits targeting credentials, the Vercel breach via AI agent OAuth (April), Comment and Control credential theft in Claude Code, Gemini CLI, and GitHub Copilot Agent (April), CVE-2026-33579 (OpenClaw /pair approve vulnerability), CVE-2026-39861 (Claude Code sandbox escape), CVE-2026-21445 (Langflow authentication bypass), Anthropic MCP vulnerability exposing 200,000 AI servers, LiteLLM supply chain attack exposing 4TB of training data, an LLM-driven AWS admin compromise in 8 minutes, and the hermes-px malicious PyPI package.
Wie viele KI-CVEs wurden im Jahr 2026 offengelegt?
The curated database on this site tracks 185 MCP-related CVEs in 2026, 107 of them Critical or High. November 2026 additions include Langflow CVE-2026-93680/CVE-2026-110186 (CVSS 9.8), CrewAI CVE-2026-120630 (9.1), AG2 CVE-2026-113663 (8.8), and MCP TypeScript SDK CVE-2026-111770; notable earlier examples include CVE-2026-119050 (Agno PandasTools, CVSS 9.2), CVE-2026-65119 (TensorRT-LLM), CVE-2026-33579, CVE-2026-39861, CVE-2026-21445, and CVE-2026-25723.
Welche Auswirkungen hatte die Anthropic MCP-Schwachstelle?
Die Anthropic MCP-Schwachstelle hat etwa 200.000 KI-Server der Remote Code Execution (RCE) ausgesetzt, wodurch Angreifer verbundene KI-Agenten und ihre zugrunde liegende Infrastruktur gefährden können.
Welche KI-Angriffe auf die Lieferkette ereigneten sich im Mai 2026?
Im Mai 2026 zielten zwei große Supply-Chain-Angriffe auf KI-Plattformen: Ein gefälschtes OpenAI-Repository auf Hugging Face (Open-OSS/Privacy-Filter) erreichte mit 244.000 Downloads vor der Entfernung Platz 1 der Trends und lieferte einen Rust-basierten Infostealer. Darüber hinaus verbreitete eine gefälschte Claude-KI-Website (claude-pro.com) die Beagle-Windows-Hintertür über ein trojanisiertes Claude-Installationsprogramm, das mit PlugX-Aktivitäten verknüpft war.
Was ist die Beagle-Hintertür, die es auf Benutzer von Claude AI abgesehen hat?
Beagle ist eine bisher undokumentierte Windows-Hintertür, die über eine gefälschte Claude AI-Website unter claude-pro.com verbreitet wird. Es verwendet ein trojanisiertes Claude-Installationsprogramm mit DonutLoader, um die Beagle-Hintertür bereitzustellen, die Befehle für Dateioperationen, Befehlsausführung und Datenexfiltration unterstützt. Die Kommunikation erfolgt über TCP-Port 443 und UDP-Port 8080 mit fest codierter AES-Verschlüsselung.
Was sind die Vorfälle mit dem Backdoor-Modell „Hugging Face“ im Jahr 2026?
Im Juli 2026 entdeckten Forscher auf Hugging Face mehrere KI-Modelle mit versteckten Backdoor-Funktionen, die bei bestimmten Eingabemustern ausgelöst werden, was sich auf über 50.000 Downloads auswirkte, bevor sie entdeckt wurden. Die Modelle umgehen standardmäßige Sicherheitsscans und führen bei der Bereitstellung in Produktionsumgebungen beliebigen Code aus, was ein erhebliches Risiko für die KI-Lieferkette darstellt.

Stay Ahead of AI Security

Get the latest AI/LLM security research, OWASP updates, and new vulnerabilities delivered straight to your inbox.