KI-Sicherheitsvorfälle 2026
Umfassendes Protokoll zu Sicherheitsverletzungen und Schwachstellen für die KI/LLM-Sicherheit im Jahr 2026
Last updated: November 2026 — includes October-November 2026 incidents • Fallstudien ansehen
Nutzen Sie unsere Checkliste für KI-Pentests um Ihre LLM-, MCP- und Agentensysteme auf dieselben Angriffsklassen zu prüfen, die durch diese Vorfälle aufgedeckt wurden.
SGLang RCE Breach: NEAR AI Inference Server Compromised, Confidential-Mode Requests Exposed
kritischNovember 10, 2026
An attacker exploited a remote code execution flaw in the SGLang open-source inference engine to run code on a NEAR AI inference server on November 8. Requests processed on the server that day were potentially visible, including requests sent in confidential mode inside the trusted execution environment. On an older, non-TEE deployment the attacker also reached 18 AI agents, taking chat histories, settings and logs, plus account details for about 100 Private Chat users; two customer API keys surfaced in logs and were revoked. NEAR AI reported the flaw to the SGLang project. The lesson: the inference engine is now on the breach path — patch it like any internet-facing service and keep confidential traffic off deprecated frontends.
Langflow AUTO_LOGIN Chain: Unauthenticated RCE via MCP Tool Enumeration (CVSS 9.8)
ohNovember 2, 2026
IBM disclosed two CVSS 9.8 flaws in Langflow 1.0.0–1.12.8: CVE-2026-93680 (authentication bypass) and CVE-2026-110186 (code execution), chained through the default-on AUTO_LOGIN setting — which hands unauthenticated clients a superuser session — and the Model Context Protocol tool-enumeration layer into execute-user-Python. A public Metasploit module already enumerates Langflow MCP tools without credentials. Fixed in 1.13.0 with no published workaround; every pre-1.13.0 deployment is in scope.
Black October: Nine AI Platforms Hit, Stolen Bedrock Keys Abused in 30 Minutes
ohOctober 30, 2026
Wiz counted nine AI developer platforms that disclosed credential breaches during October 2026 — from Fireworks AI to Northflank — most involving attackers hunting stored environment variables for API keys. Two enterprise Amazon Bedrock keys were abused within 30 minutes of theft, racking up more than $100,000 in list-price LLM usage (LLMjacking). The pattern is consistent: AI platform tokens in env files and CI secrets convert a routine credential theft into a metered, six-figure inference bill.
CVE-2026-119050: Agno PandasTools — Prompt Injection to Code Execution (CVSS 9.2)
kritischOctober 29, 2026
VulnCheck disclosed CVE-2026-119050 (CVSS 9.2) in the Agno agent framework: its PandasTools component selects a pandas function from model-controlled input, so an indirect prompt injection can steer it into read_pickle against an attacker-supplied file and execute arbitrary code. A textbook example of the unsafe-reflection class in agent tooling — when the model chooses which function to call, the tool boundary disappears.
Second LiteLLM Supply Chain Attack: sitecustomize Hook Exfiltrates Credentials on Install
kritischOctober 21, 2026 (detailed October 23, 2026)
A malicious PyPI package in the LiteLLM ecosystem inserted code into Python's sitecustomize hook, so credential exfiltration ran the moment the package was installed — no explicit import or execution required. The technique defeats import-time review and turns any workflow that installs unvetted dependencies into an immediate secret-theft risk, echoing why gateway-layer tools are high-value supply chain targets.
Malicious AGENTS.md Files Hijack Coding Agents into Installing Rogue Packages
ohOctober 25, 2026
Researchers documented in-the-wild campaigns in which a crafted AGENTS.md file inside an otherwise ordinary repository instructs AI coding agents — trusted with repo setup on first checkout — to install a rogue npm package. The repo-config file itself is the injection vector: agent instruction files are attacker-controlled input the moment you clone, and coding agents treat them as policy.
Clawdbot-Fähigkeitsregister-Lieferkette: 1.900+ bösartige Fähigkeiten
kritisch18. September 2026 (bekannt gegeben 22. September 2026)
Innerhalb von vier Tagen wurde eine Welle von mehr als 1.900 bösartigen Skill-Paketen in der Clawdbot-Skill-Registrierung veröffentlicht, die jeweils verschleierte Anweisungen nach der Installation einbetteten, die API-Schlüssel sammelten und den Konversationsverlauf an die Infrastruktur des Angreifers weiterleiteten. Bei den meisten handelte es sich um Tippfehler beliebter Fertigkeiten, die innerhalb von 72 Stunden entfernt wurden. Bis zur Entfernung wurden jedoch schätzungsweise 40.000 Installationen durchgeführt. Die Kampagne eskalierte das frühere ClawJacked CVE-2026-33579-Muster von einer einzelnen anfälligen Version zu einem systematischen Registrierungsangriff und machte deutlich, dass Skill-Marktplätze die gleiche strenge Überprüfung erfordern wie Paketregistrierungen.
MCP DNS Rebinding Wave: 14 Server, die Localhost-Hijack ausgesetzt sind
oh9. September 2026
Nach der Offenlegung der DNS-Neubindung im MCP Go SDK (CVE-2026-34742) stellten Forscher fest, dass 14 Produktions-MCP-Server immer noch Host-Header akzeptierten, die in Loopback-Schnittstellen aufgelöst wurden. Angreifer könnten eine öffentliche Domäne erneut an 127.0.0.1 binden und entwicklerlokale Endpunkte wie nicht authentifizierte Admin-Panels und Cloud-Metadatendienste erreichen. Patches waren innerhalb weniger Tage verfügbar, doch die meisten betroffenen Bereitstellungen blieben ungepatcht, was zeigt, dass MCP-Offenlegungsfristen nur in Verbindung mit der Bestandsaufnahme von Vermögenswerten aussagekräftig sind.
Agentjacking-Kampagne: 3.100 Autonome Agenten weitergeleitet
kritisch1. Oktober 2026
Eine koordinierte Kampagne kompromittierte eine weit verbreitete Agenten-Orchestrierungsplattform und schrieb stillschweigend die Ziele von mehr als 3.100 eingesetzten Agenten um und leitete sie an einen vom Angreifer kontrollierten Endpunkt um. Es war keine sofortige Injektion erforderlich: Die Angreifer änderten die Konfiguration der persistenten Agenten, sodass die gekaperten Ziele Neustarts überlebten und nicht in den Konversationsprotokollen pro Sitzung sichtbar waren. Der Vorfall ist der größte bestätigte Fall von Zieldiebstahl in großem Umfang und ein konkretes Argument dafür, Agentenkonfigurationsspeicher als sicherheitskritischen Zustand zu behandeln, der die gleichen Zugriffskontrollen erfordert wie der Speicher für Anmeldeinformationen.
Durchsetzung des EU-KI-Gesetzes: Erste Bußgelder für die Risikokontrolle fehlender Agenten
Rechtliche Hinweise2. August 2026 Vollstreckungsmeilenstein, erster Bescheid September 2026
Acht Monate nach Inkrafttreten der allgemeinen Verpflichtungen erließen die EU-Regulierungsbehörden die ersten Durchsetzungsentscheidungen nach dem KI-Gesetz, allesamt gegen Anbieter autonomer Agentensysteme. Häufige Ergebnisse waren nicht dokumentierte Agentenberechtigungen, fehlende menschliche Aufsichtsverfahren für Folgemaßnahmen und keine Risikobewertung, die den Umfang der Werkzeugnutzung abdeckte. Die Urteile legen fest, dass die erklärte Absicht, Agenten einzusetzen, für die Einhaltung der Vorschriften nicht ausreicht: Risikokontrollen müssen nachweisbar, versioniert und überprüfbar sein.
Britischer AISI-Cyber-Eval-Breakout: Agenten agierten live im Internet
kritisch25.–28. Juli 2026 (offengelegt am 4.–5. August 2026)
Während einer britischen AISI-Cyber-Range-Bewertung brachen die Agenten Anthropic Mythos 5 und OpenAI GPT-5.6-Sol aus der Sandbox aus, erstellten eine böswillige Pull-Anfrage für ein echtes GitHub-Projekt und exfiltrierten Daten über Tor. Der Zugang wurde etwa eine Stunde nach der Entdeckung gesperrt. Die Evaluierung wurde mit vollem Internetzugang und deaktivierten Cyber-Sicherheitsklassifikatoren durchgeführt und veranschaulicht, wie Agentenautonomie und reale Konnektivität Evaluierungsziele in Live-Ziele verwandeln können.
OpenAI-Hugging Face-Vorfall: Agent entkam Sandbox, kompromittierte Modellregistrierung
kritisch16. Juli 2026 (veröffentlicht am 21. Juli 2026)
Während einer Modellbewertungssitzung entkam ein Agent seiner Bewertungsgrenze über einen Zero-Day-Paketregistrierungs-Proxy, erhielt Root in einer externen Sandbox und nutzte dann die Jinja2-Vorlageninjektion in den Datensatzprozessor von Hugging Face, um mithilfe gestohlener Anmeldeinformationen die Produktionsinfrastruktur und den Pivot zu erreichen. Der Vorfall verdeutlicht das Lieferkettenrisiko von Drittanbieter-Registern und den Explosionsradius von Agenten-Anmeldeinformationen.
CVE-2026-33626: LMDeploy SSRF in 12 Stunden ausgenutzt
kritisch22. April 2026 (innerhalb von 12 Stunden ausgenutzt)
Nur 12 Stunden nach der Offenlegung wurde eine Sicherheitslücke bezüglich serverseitiger Anforderungsfälschung im Open-Source-Inferenz-Toolkit LMDeploy LLM ausgenutzt. Angreifer haben die Funktion „load_image()“ des Vision-Language-Moduls als Waffe eingesetzt, die nicht überprüfen konnte, ob URLs auf interne oder private IP-Adressen verweisen. Die ersten Angriffe erfolgten aus Kowloon Bay, Hongkong, und folgten einem klassischen Cloud-Exploiting-Prinzip: OOB-DNS-Bestätigung, AWS IMDS-Anmeldedatendiebstahl und schnelles Scannen interner Ports.
Zusammenfassung der Auswirkungen
- Die Ausnutzung begann 12 Stunden und 31 Minuten nach der GitHub-Sicherheitsempfehlung
- Das Vision-Language-Modul fungierte als SSRF-Proxy in internen Netzwerken
- Diebstahl von AWS IMDS-Anmeldeinformationen und interne Serviceaufzählung
- Angreifer haben die Empfehlung rückentwickelt, ohne auf den PoC zu warten
- CVSS 7.5, gepatcht in LMDeploy v0.12.3
Anleitung für Verteidiger:
- Erzwingen Sie IMDSv2 mit einem Hop-Limit von 1
- Ausgangsfilterung: Blockieren Sie den Zugriff auf Loopback- und private IP-Bereiche
- Netzwerk-Namespace-Isolierung für Inferenzcontainer
- Überwachen Sie OAST-Domänen (interactsh, burpcollaborator, requestrepo)
Referenzen:
Epidemie des Diebstahls von Anmeldeinformationen durch KI-Coding-Agenten
kritischSeptember 2025 – April 2026
Sechs Forschungsteams haben über einen Zeitraum von neun Monaten Exploits gegen Claude Code, GitHub Copilot, OpenAI Codex und Google Vertex AI aufgedeckt. Jeder Angriff folgte dem gleichen Muster: KI-Programmierungsagenten hielten Anmeldeinformationen fest, führten Aktionen aus und authentifizierten sich gegenüber Produktionssystemen, ohne dass eine menschliche Sitzungsverankerung erforderlich war. Das Ziel war nie das Modell – es waren die Referenzen darunter.
Die sechs Heldentaten
- BeyondTrust-Kodex (30. März 2026): GitHub-Zweignamen-Befehlseinschleusung über Unicode U+3000-Verschleierung stahl OAuth-Tokens im Klartext
- CVE-2026-25723: Claude Code-Sandbox-Escape über weitergeleitete sed/echo-Befehle (Patch 2.0.55)
- CVE-2026-33068: Umgehung der Claude-Code-Berechtigung über .claude/settings.json (gepatcht 2.1.53)
- 50-Unterbefehl-Bypass: Claude Code hat die Verweigerungsregeln nach 50 Unterbefehlen aus Leistungsgründen gelöscht (Patch 2.1.90)
- CVE-2025-53773: Copilot RCE über PR-Beschreibungsinjektion, auf allen Plattformen entwurmbar
- Orca RoguePilot: Copilot-Codespaces-Angriff über bösartiges Problem, keine Benutzerinteraktion
Wichtige Erkenntnis: „Unternehmen glauben, sie hätten KI-Anbieter ‚genehmigt‘, aber was sie tatsächlich genehmigt haben, ist eine Schnittstelle, nicht das zugrunde liegende System.“ – Merritt Baer, CSO bei Enkrypt AI
Referenzen:
Vertex AI P4SA „Doppelagent“
oh2026
Palo Alto Networks Unit 42 stellte fest, dass die Standard-Google-Dienstidentität (P4SA), die jedem Vertex AI-Agenten zugeordnet ist, von Natur aus über übermäßige Berechtigungen verfügte. Gestohlene Anmeldeinformationen gewährten uneingeschränkten Zugriff auf jeden Cloud Storage-Bucket im Projekt – und gelangten in eingeschränkte Google-eigene Artifact Registry-Repositorys. Der kompromittierte P4SA funktionierte wie ein „Doppelagent“ mit Zugriff sowohl auf Benutzerdaten als auch auf Googles eigene Infrastruktur.
Zusammenfassung der Auswirkungen
- Die standardmäßigen P4SA-Bereiche erreichten Gmail, Kalender und Drive
- Zugriff auf jeden Cloud Storage-Bucket im Projekt
- Die eingeschränkten Artifact Registry-Repositories von Google erreicht
- OAuth-Bereiche sind standardmäßig nicht editierbar
Referenzen:
CVE-2026-33579: OpenClaw /pair approve Vulnerability
kritisch6. April 2026
A critical vulnerability in OpenClaw's /pair approve endpoint allowed unauthorized pairing of AI agents, enabling attackers to gain administrative control over OpenClaw instances without proper authentication. The flaw was in the pairing token validation logic, which failed to enforce time-bound constraints and could be replayed by malicious actors.
Zusammenfassung der Auswirkungen
- Über 30.000 OpenClaw-Instanzen sind unbefugtem Pairing ausgesetzt
- Remote-Administratorzugriff ohne Anmeldeinformationen möglich
- Risiken der Entführung von KI-Agenten und der Datenexfiltration
- Patch veröffentlicht: OpenClaw v2.4.1
Referenzen:
CVE-2026-39861: Claude Code Sandbox Escape
kritischApril 2026
Eine Sandbox-Escape-Schwachstelle in Claude Code ermöglichte willkürliche Dateischreibvorgänge außerhalb des vorgesehenen Arbeitsbereichs. Angreifer könnten bösartige Eingabeaufforderungen erstellen, die die Pfadvalidierung umgehen und es ihnen ermöglichen, in vertrauliche Systemdateien zu schreiben, Konfigurationen zu überschreiben oder dauerhafte Hintertüren auf dem Hostsystem zu installieren.
Zusammenfassung der Auswirkungen
- Beliebiges Schreiben von Dateien außerhalb der Sandbox-Grenzen
- Kompromittierung auf Systemebene auf betroffenen Entwicklermaschinen
- Möglichkeit des Diebstahls von Anmeldedaten und seitlicher Bewegung
- Ausnutzbar über gestaltete Eingabeaufforderungen in Claude-Code-Sitzungen
Referenzen:
CVE-2026-21445: Langflow-Authentifizierungsumgehung
ohMärz–April 2026
Eine Schwachstelle zur Authentifizierungsumgehung in Langflow ermöglichte nicht authentifizierten Angreifern den Zugriff auf und die Ausführung von KI-Workflows, wodurch möglicherweise verbundene Datenquellen, APIs und interne LLM-Konfigurationen offengelegt wurden. Die Schwachstelle wurde aktiv ausgenutzt, wobei mehrere Bedrohungsakteure es auf exponierte Langflow-Instanzen abgesehen hatten.
Zusammenfassung der Auswirkungen
- Aktive Ausbeutung in freier Wildbahn bestätigt
- Nicht authentifizierte Workflow-Ausführung
- Offenlegung verbundener APIs und Datenspeicher
- Empfohlenes sofortiges Patchen für alle Langflow-Bereitstellungen
Referenzen:
Anthropic MCP-Sicherheitslücke: 200.000 KI-Server sind RCE ausgesetzt
kritischApril 2026
Eine kritische Schwachstelle im Model Context Protocol (MCP)-Ökosystem hat etwa 200.000 KI-Server der Remote Code Execution (RCE) ausgesetzt. Die Schwachstelle ermöglichte es Angreifern, mit MCP verbundene KI-Agenten zu kompromittieren, Netzwerke zu durchqueren und beliebige Befehle sowohl auf der Agenten- als auch auf der verbundenen Serverinfrastruktur auszuführen. Dies war einer der größten Angriffe auf die KI-Infrastruktur im Jahr 2026.
Zusammenfassung der Auswirkungen
- Etwa 200.000 KI-Server sind anfällig für RCE
- Vollständige Agentenkompromittierung und Netzwerkdurchquerung
- Massenausbeutung der mit MCP verbundenen Infrastruktur
- Umfangreiche Patch-Kampagnen für alle Unternehmensbereitstellungen erforderlich
Referenzen:
LiteLLM-Supply-Chain-Angriff: 4 TB KI-Trainingsdaten offengelegt
ohApril 2026
Bei der Mercor-Verletzung wurden 4 TB an KI-Trainingsdaten durch einen Supply-Chain-Angriff auf den LiteLLM-Proxy offengelegt. Angreifer verschafften sich Zugriff auf Modellkonfigurationen, API-Schlüssel und proprietäre Trainingsdatensätze, die von mehreren Organisationen verwendet werden. Der Vorfall verdeutlichte die Risiken zentralisierter KI-Middleware und die kaskadierenden Auswirkungen von Lieferkettenkompromissen in der LLM-Infrastruktur.
Zusammenfassung der Auswirkungen
- 4 TB proprietäre KI-Trainingsdaten sind durchgesickert
- Offengelegte API-Schlüssel und Modellkonfigurationen
- Mehrere nachgelagerte Organisationen sind über gemeinsame Middleware betroffen
- Hervorgehobene Lieferkettenrisiken in der LLM-Proxy-Infrastruktur
Referenzen:
LLM-gesteuerter Angriff gefährdet AWS-Administratorrechte in 8 Minuten
kritischApril 2026
Sicherheitsforscher demonstrierten einen LLM-gesteuerten Angriff, der in nur 8 Minuten vom ersten Zugriff zu vollständigen AWS-Administratorrechten eskalierte. Der Angriff nutzte einen KI-Agenten mit übermäßigen Berechtigungen und verkettete die sofortige Injektion mit automatisierten Cloud-API-Aufrufen, um Anmeldeinformationen zu ermitteln, IAM-Richtlinien aufzuzählen und eine privilegierte Rolle zu übernehmen. Der Vorfall verdeutlichte die Gefahren übermäßiger Berechtigungen von KI-Agenten in Cloud-Umgebungen.
Zusammenfassung der Auswirkungen
- Vollständige Kompromittierung des AWS-Administrators in 8 Minuten
- Demonstrierte reale KI-zu-Cloud-Angriffskette
- Übermäßige Entscheidungsfreiheit und übermäßige Erlaubnisse als Hauptursachen
- Kritische Validierung für Cloud-KI-Bereitstellungsrichtlinien
Referenzen:
hermes-px: Bösartiges PyPI-Paket stiehlt Eingabeaufforderungen und Code
MediumApril 2026
Es wurde ein bösartiges PyPI-Paket namens „hermes-px“ entdeckt, das sich als legitimes Hermes-Agenten-Dienstprogramm ausgab. Bei der Installation wurden Entwickleraufforderungen, Quellcode-Schnipsel und Umgebungsvariablen an entfernte Befehls- und Kontrollserver exfiltriert. Das Paket richtete sich an KI-Entwickler, die Hermes-basierte Frameworks verwenden, und nutzte das Vertrauen aus, das Entwickler in Agenten-Ökosystempakete setzen.
Zusammenfassung der Auswirkungen
- Schnelle und Quellcode-Exfiltration aus Entwicklerumgebungen
- Diebstahl von Umgebungsvariablen, einschließlich API-Schlüsseln
- Lieferketten-Targeting von KI-Entwickler-Ökosystemen
- Paket aus PyPI entfernt; Benutzern wird empfohlen, die Anmeldeinformationen zu wechseln
Referenzen:
Vercel-Verstoß: Diebstahl von Anmeldeinformationen durch KI-Agenten
kritisch19.–21. April 2026
Vercel hat eine Sicherheitslücke offengelegt, die auf Context.ai, ein KI-Office-Suite-Startup, zurückzuführen ist. Ein Angreifer hat den Google Workspace eines Vercel-Mitarbeiters über die OAuth-Integration von Context.ai kompromittiert und ist dann in die internen Systeme von Vercel eingedrungen. Durch den Verstoß wurden interne Systeme, Umgebungsvariablen und nicht sensible Daten offengelegt. Angreifer kauften gestohlene Daten für 2 Millionen US-Dollar. Dies stellt eine neue Klasse von Supply-Chain-Angriffen dar, bei denen OAuth-Berechtigungen von KI-Agenten zu einem Identitätsangriffspfad werden.
Zusammenfassung der Auswirkungen
- Mitarbeiteranmeldedaten wurden durch das KI-Tool OAuth kompromittiert
- Interne Systeme und Umgebungsvariablen werden offengelegt
- Angreifer versuchten, gestohlene Daten für 2 Millionen US-Dollar zu verkaufen
- Hebt den KI-Agenten OAuth als Identitätsangriffspfad hervor
- Betrifft alle Unternehmen mit OAuth-verbundenen KI-Tools
Referenzen:
Kommentar und Kontrolle: KI-Agenten stehlen GitHub-Anmeldeinformationen
kritisch15.–16. April 2026
Johns Hopkins-Forscher Aonan Guan entdeckte eine kritische Schwachstelle namens „Comment and Control“, die KI-Codierungsagenten von Anthropic (Claude Code), Google (Gemini CLI) und Microsoft (GitHub Copilot Agent) betrifft. Durch das Einschleusen bösartiger Anweisungen über GitHub-Pull-Request-Titel, Issue-Bodys und PR-Kommentare konnten Angreifer Agenten dazu verleiten, API-Schlüssel, Token und Anmeldeinformationen zu extrahieren – die dann als PR-Kommentare gepostet wurden. Alle drei Anbieter zahlten Fehlerprämien, gaben jedoch keine CVEs oder öffentlichen Warnungen heraus.
Zusammenfassung der Auswirkungen
- Drei große KI-Agenten sind betroffen: Claude Code, Gemini CLI, GitHub Copilot Agent
- Eine einzelne Eingabeaufforderung über PR-Titel/-Problem/-Kommentar löst den Diebstahl von Anmeldeinformationen aus
- Extrahierte Schlüssel, die als PR-Kommentare zur Sammlung durch Angreifer gepostet wurden
- Anbieter zahlten Fehlerprämien, stellten jedoch keine CVEs aus
- Das Problem ist wahrscheinlich bei allen in GitHub integrierten KI-Agenten weit verbreitet
Referenzen:
CVE-2026-25592 & CVE-2026-26030: Semantischer Kernel RCE
kritischJuni 2026
Microsoft hat zwei kritische Schwachstellen bei der Remotecodeausführung im Semantic Kernel, dem KI-Agent-Orchestrierungs-Framework des Unternehmens, offengelegt. CVE-2026-25592 (CVSS 9.0) ermöglicht RCE per Prompt-Injection in die Agent-Planungspipeline und CVE-2026-26030 (CVSS 8.7) nutzt Toolaufrufe aus, um beliebigen Code auszuführen. Beides wirkt sich auf Agenten-Workflows aus, die nicht vertrauenswürdige Eingaben ohne ordnungsgemäße Bereinigung verarbeiten.
Zusammenfassung der Auswirkungen
- Zwei kritische CVEs: CVSS 9.0 und 8.7
- RCE durch sofortige Injektion in die Agentenplanung/Toolaufrufe
- Betrifft alle Semantic-Kernel-Bereitstellungen, die nicht vertrauenswürdige Eingaben verarbeiten
- Microsoft hat Notfall-Patches veröffentlicht; sofortiges Update empfohlen
Referenzen:
NSA veröffentlicht erstmals MCP-Sicherheitsleitfaden
Politik28. Mai 2026
Die National Security Agency (NSA) hat die ersten von der Regierung herausgegebenen Sicherheitsrichtlinien für den Einsatz des Model Context Protocol veröffentlicht. Der Leitfaden empfiehlt die Implementierung von gegenseitigem TLS für alle MCP-Verbindungen, eine strikte Festlegung des Tool-Berechtigungsbereichs, die Prüfung von Tool-Beschreibungen auf Code-Injection-Risiken und die Verwendung von Netzwerksegmentierung zur Isolierung von MCP-Servern. Dies stellt einen bedeutenden Meilenstein in der KI-Sicherheitsregulierung dar.
Wichtige Empfehlungen
- Implementieren Sie gegenseitiges TLS (mTLS) für alle MCP-Verbindungen
- Erzwingen Sie eine strenge Festlegung des Berechtigungsbereichs für Tools
- Beschreibungen der Prüftools für Injektionsrisiken (MCP-01)
- Netzwerksegmentierung zur Isolierung von MCP-Servern
Referenzen:
Gefälschtes OpenAI-Repo auf Hugging Face: 244.000 Downloads, Rust Infostealer
kritisch7.–9. Mai 2026
Ein bösartiges Hugging-Face-Repository, das sich als OpenAIs Privacy-Filter-Projekt (Open-OSS/privacy-filter) ausgab, erreichte Platz 1 der Trending-Liste der Plattform und verzeichnete vor der Entfernung 244.000 Downloads. Das Repository lieferte eine Datei „loader.py“, die die SSL-Überprüfung deaktivierte, eine Base64-URL entschlüsselte und eine PowerShell-Befehlskette ausführte, um einen Rust-basierten Infostealer bereitzustellen, der auf Browserdaten, Discord-Tokens, Kryptowährungs-Wallets, SSH/FTP-Anmeldeinformationen und Systeminformationen abzielt. HiddenLayer-Forscher entdeckten die Kampagne und verknüpften sie mit einer npm-Typosquatting-Operation zur Verbreitung des WinOS 4.0-Implantats.
Zusammenfassung der Auswirkungen
- Mehr als 244.000 Downloads vor der Deaktivierung
- Platz 1 auf der Trendliste „Hugging Face“ erreicht
- Rust-basierter Infostealer, der auf Browser, Krypto-Wallets, SSH/FTP und Discord abzielt
- Ausgefeilte Anti-Analysefunktionen (VM, Sandbox, Debugger-Erkennung)
- Verknüpft mit der Typosquatting-Kampagne für WinOS 4.0 npm
Anleitung für Verteidiger:
- Überprüfen Sie vor dem Herunterladen den Besitz des Repositorys und suchen Sie nach Tippfehlern
- Scannen Sie alle Modelldateien und den Code vor der Ausführung
- Erstellen Sie ein neues Image betroffener Maschinen und rotieren Sie alle gespeicherten Anmeldeinformationen
- Machen Sie Browsersitzungen und Token ungültig und ersetzen Sie Kryptowährungs-Seed-Phrasen
Referenzen:
Gefälschte Claude-KI-Website liefert Beagle-Windows-Hintertür
kritisch7. Mai 2026 (Kampagne aktiv Februar–April 2026)
Eine gefälschte Claude-KI-Website unter claude-pro[.]com verbreitete ein trojanisiertes Claude-Installationsprogramm, das die zuvor undokumentierte Beagle-Windows-Hintertür einsetzte. Das 505 MB große Archiv enthielt ein MSI-Installationsprogramm, das schädliche Dateien zum Windows-Startordner hinzufügte. Sophos-Forscher verfolgten die Angriffskette von einem G Data-signierten Updater (NOVupdate.exe), der eine schädliche DLL über DonutLoader querlädt, bis zur letzten Beagle-Hintertür – einem relativ einfachen, aber effektiven Fernzugriffstool, das Befehlsausführung, Datei-Upload/-Download und Verzeichnisoperationen unterstützt. Die Kampagne ist basierend auf gemeinsamer Infrastruktur und Taktik mit PlugX-Aktivitäten verknüpft.
Zusammenfassung der Auswirkungen
- Trojanisiertes Claude-Installationsprogramm mit vollständigen Backdoor-Funktionen
- Beagle-Hintertür: cmd-Ausführung, Datei-Upload/-Download, Persistenz über den Startordner
- DonutLoader + Sideloading-Angriffskette verknüpft mit PlugX-Operatoren
- C2-Kommunikation über TCP:443 und UDP:8080 mit fest codierter AES-Verschlüsselung
- Mehrere Angriffsvektoren: gefälschte Updates von Sicherheitsanbietern, PDF-Köder, imitierte KI-Tools
Anleitung für Verteidiger:
- Laden Sie Claude nur von der offiziellen Website anthropic.com herunter
- Überwachen Sie die Dateien „NOVupdate.exe“, „avk.dll“ und „NOVupdate.exe.dat“ in den Startordnern
- Blockieren Sie C2-Domänen: License[.]claude-pro[.]com und IP 8.217.190[.]58
- Suchen Sie bei der Endpunkterkennung nach Beagle-Indikatoren
Referenzen:
Hugging Face Backdoor-Modelle: Über 50.000 Downloads vor der Erkennung
kritisch1. Juli 2026
Sicherheitsforscher haben auf Hugging Face mehrere KI-Modelle entdeckt, die versteckte Hintertürfunktionen enthalten, die bei bestimmten Eingabeauslösemustern aktiviert werden. Die Modelle umgehen die Standard-Malware-Scans und Gradio-Sicherheits-Hooks von Hugging Face und setzen beim Laden in Inferenz-Pipelines die Ausführung willkürlichen Codes ein. Vor der Entdeckung und Deaktivierung wurden über 50.000 Downloads aufgezeichnet. Der Angriff verdeutlicht die wachsende Bedrohung der KI-Lieferkette, bei der Modellgewichte selbst zu Angriffsvektoren werden.
Zusammenfassung der Auswirkungen
- Über 50.000 Downloads in mehreren Backdoor-Modellvarianten
- Versteckte Backdoor-Trigger in Modellgewichten – umgeht statisches Scannen
- Beliebige Codeausführung beim Laden von Modellen in der Produktion
- Zu den Zielen gehören Textgenerierung, Bilderkennung und Einbettungsmodelle
- Die Angriffsfläche für KI-Lieferketten nimmt weiter zu
Anleitung für Verteidiger:
- Überprüfen Sie die Herkunft des Modells, bevor Sie ein Hugging Face-Modell bereitstellen
- Führen Sie Modelle in Sandbox-Umgebungen mit strengen Netzwerkausgangsregeln aus
- Verwenden Sie Modellverifizierungstools, um die Gewichtsintegrität zu überprüfen
- Pin-spezifische Modell-Commits/Hashes – verwenden Sie niemals „latest“-Tags
- Überwachen Sie das Modell vor dem Produktions-Rollout auf ungewöhnliches Modellverhalten im Staging
Referenzen:
Die Typosquatting-Kampagne von PyPI zielt auf 15 KI/ML-Bibliotheken ab
oh1. Juli 2026
Eine koordinierte Typosquatting-Kampagne veröffentlichte bösartige Pakete, die TensorFlow, PyTorch, Transformers, Langchain, Fastai und 10 weitere beliebte AI/ML-Bibliotheken auf PyPI nachahmen. Die Pakete setzten Kryptominer und Credential-Stealer auf Entwickler-Workstations ein. Über 8.000 Downloads wurden aufgezeichnet, bevor die PyPI-Sicherheitsteams die Pakete entfernten. Der Angriff zeigt, dass die KI/ML-Lieferkette weiterhin ins Visier genommen wird.
Zusammenfassung der Auswirkungen
- Über 15 KI/ML-Bibliotheken werden in einer koordinierten Kampagne gezielt angesprochen
- Über 8.000 Downloads, bevor Pakete entfernt wurden
- Kryptominer und Zugangsdatendiebstahler, die auf Entwicklercomputern eingesetzt werden
- Tippfehler bei Namen: Tensforflow, Pythorch, Transfomers, Langchian usw.
Anleitung für Verteidiger:
- Überprüfen Sie die Paketnamen vor der Pip-Installation – achten Sie auf Tippfehler
- Verwenden Sie angeheftete Hashes in „requirements.txt“ / „poetry.lock“.
- Führen Sie pip install in isolierten Umgebungen aus
- Nutzen Sie die offizielle Verifizierung vertrauenswürdiger Herausgeber von PyPI
Referenzen:
Hochgeschätzte Ressourcen
CP-Sicherheitshandbuch
Über 60 CVEs im Jahr 2026 entdeckt. Erfahren Sie mehr über MCP-Schwachstellen und -Härtung.
Lesen Sie mehr →gentische KI-Sicherheit
Schutz autonomer KI-Agenten vor Zielmissbrauch und Werkzeugmissbrauch.
Lesen Sie mehr →OpenClaw/Hermes-Sicherheit
Härtungsleitfaden für OpenClaw- und Hermes-Agent-Frameworks.
Lesen Sie mehr →