एआई हैकिंग
एआई सुरक्षा संसाधन
🔄 Updated August 2026

एजेंट अनुप्रयोगों के लिए ओडब्ल्यूएएसपी शीर्ष 10|2026

Security risks specific to autonomous AI agents and multi-step AI workflows

30+
60 दिनों में एमसीपी सीवीई
(सुरक्षा अनुसंधान)
36%
एमसीपी सर्वर में प्रमाणीकरण की कमी है
(इनवेरिएंट लैब्स)
42,665
एमसीपी सर्वर इंटरनेट के संपर्क में हैं
(सुरक्षा स्कैन)
🤖

एजेंट एआई सुरक्षा

Unlike traditional LLMs, agentic AI systems plan, decide, delegate, and act across tools and systems. This creates new attack surfaces requiring specialized security approaches. 2027 तक अनुमानित डीपफेक धोखाधड़ी नुकसान

Ready to test? Use our AI pentesting checklist for test cases covering goal hijacking, tool misuse, excessive agency, prompt injection, and supply chain risks.

Key insight: "At least 50% of the ten risks are directly mitigable at the API gateway layer" - Zuplo, 2026

ASI01

एजेंट गोल हाईजैक

Critical

Attackers manipulate an agent's objectives, planning logic, or decision path through malicious content in inputs like emails, documents, RAG data, or web content.

हमला वेक्टर
  • जहरीले दस्तावेजों के माध्यम से अप्रत्यक्ष त्वरित इंजेक्शन
  • कैलेंडर/मीटिंग लक्ष्य प्राथमिकताओं को बदलने के लिए आमंत्रित करता है
  • एजेंट उद्देश्यों को पुनर्निर्देशित करने के लिए आरएजी दस्तावेज़ इंजेक्शन
  • क्रॉस-सत्र लक्ष्य दृढ़ता हेरफेर
वास्तविक दुनिया के उदाहरण
  • दुर्भावनापूर्ण ईमेल वित्त एजेंट खर्च प्राथमिकताओं को बदलता है
  • एजेंट संदर्भ में जहरीले गिटहब मुद्दे/पीआर सामग्री को इंजेक्ट करें
  • बैठक एजेंट कार्य पदानुक्रम को सूक्ष्मता से बदलने के लिए आमंत्रित करती है
शमन रणनीतियाँ
  • लक्ष्य हेरफेर का पता लगाने के लिए शीघ्र फायरवॉल लागू करें
  • प्रसंस्करण से पहले सभी बाहरी सामग्री को सत्यापित और साफ करें
  • लक्ष्य सीमा प्रवर्तन और निगरानी का उपयोग करें
  • विचार-श्रृंखला सत्यापन लागू करें
ASI02

उपकरण का दुरुपयोग और शोषण

Critical

Legitimate tools or functions are abused within their granted privileges, leading to unauthorized actions or data access.

हमला वेक्टर
  • डेटाबेस टूल के माध्यम से एसक्यूएल इंजेक्शन
  • अनधिकृत पढ़ने/लिखने के लिए फ़ाइल सिस्टम एक्सेस
  • अनुदत्त एकीकरणों के माध्यम से एपीआई का दुरुपयोग
  • टूल पैरामीटर हेरफेर
वास्तविक दुनिया के उदाहरण
  • दुर्भावनापूर्ण कमांड चलाने के लिए उपयोग किए जाने वाले कोड निष्पादन उपकरण
  • डेटा घुसपैठ के लिए डेटाबेस टूल का शोषण
  • संवेदनशील निर्देशिकाओं तक पहुंचने के लिए उपयोग किया जाने वाला फ़ाइल सिस्टम टूल
शमन रणनीतियाँ
  • सख्त उपकरण उपयोग प्राधिकरण और ऑडिट लॉग लागू करें
  • निष्पादन से पहले सभी टूल मापदंडों को सत्यापित करें
  • टूल अनुमतियों पर कम से कम विशेषाधिकार लागू करें
  • सैंडबॉक्स्ड निष्पादन वातावरण का उपयोग करें
ASI03

पहचान और विशेषाधिकार का दुरुपयोग

High

Agents inherit or delegate credentials without proper scoping, creating attribution gaps and privilege escalation risks.

हमला वेक्टर
  • उचित स्कोपिंग के बिना क्रेडेंशियल प्रतिनिधिमंडल
  • मानव और एजेंट कार्यों के बीच भूमिका संबंधी भ्रम
  • एजेंट कार्यों के माध्यम से विशेषाधिकार वृद्धि
  • मल्टी-एजेंट सिस्टम में पहचान धोखाधड़ी
वास्तविक दुनिया के उदाहरण
  • उत्पादन परिवर्तनों के लिए डेवलपर क्रेडेंशियल्स का उपयोग करने वाला एजेंट
  • ऑडिट लॉग में मानवीय रूप में दिखाई देने वाली एजेंट गतिविधियां
  • एजेंट पहचान के माध्यम से बहु-किरायेदार अलगाव बाईपास
शमन रणनीतियाँ
  • एजेंट-विशिष्ट पहचान और पहुंच प्रबंधन लागू करें
  • सीमित दायरे के साथ अल्पकालिक टोकन का उपयोग करें
  • एजेंट अनुमतियों को मानव क्रेडेंशियल्स से अलग करें
  • सभी एजेंट कार्रवाई लॉग में एट्रिब्यूशन लागू करें
ASI04

एजेंट आपूर्ति श्रृंखला कमजोरियां

High

Compromised or vulnerable components in the agent tool ecosystem, including malicious tools, plugins, and compromised agent frameworks.

हमला वेक्टर
  • एजेंट वर्कफ़्लो में दुर्भावनापूर्ण टूल इंजेक्शन
  • समझौता किए गए उपकरण प्रदाता या रजिस्ट्रियां
  • बैकडोर के साथ जहरीली टूल परिभाषाएं
  • ऑर्केस्ट्रेशन परतों में फ्रेमवर्क कमजोरियाँ
वास्तविक दुनिया के उदाहरण
  • एजेंट निर्भरता में ट्रोजन एनपीएम/पीपीआई पैकेज
  • डेटा घुसपैठ के साथ दुर्भावनापूर्ण एमसीपी सर्वर
  • समझौताकृत लैंगग्राफ या समान ढांचा
शमन रणनीतियाँ
  • हस्ताक्षर और चेकसम के माध्यम से उपकरण की अखंडता को सत्यापित करें
  • सभी एजेंट घटकों के लिए एसबीओएम बनाए रखें
  • विश्वसनीय रजिस्ट्रियों का उपयोग करें और उपकरण उत्पत्ति को सत्यापित करें
  • ज्ञात कमजोरियों के लिए स्कैन निर्भरताएँ
ASI05

अप्रत्याशित कोड निष्पादन

Critical

Agents execute code or commands that were not intended by the system design, leading to remote code execution vulnerabilities.

हमला वेक्टर
  • उचित सैंडबॉक्सिंग के बिना डायनामिक कोड जनरेशन
  • एजेंट-जनरेटेड कॉल के माध्यम से कमांड इंजेक्शन
  • एजेंट वर्कफ़्लोज़ में असुरक्षित अक्रमांकन
  • एजेंट कार्यों के माध्यम से मनमानी फ़ाइल लिखना
वास्तविक दुनिया के उदाहरण
  • दुर्भावनापूर्ण एसक्यूएल प्रश्नों को उत्पन्न करने और निष्पादित करने वाला एजेंट
  • कोड दुभाषिया उपकरण हमलावर पेलोड चला रहा है
  • शेल कमांड को एजेंट आउटपुट में इंजेक्ट किया जाता है
शमन रणनीतियाँ
  • सैंडबॉक्स सभी कोड निष्पादन वातावरण
  • उत्पन्न कोड के लिए सख्त इनपुट सत्यापन लागू करें
  • अनुमत संचालन के लिए अनुमति-सूचियों का उपयोग करें
  • निष्पादन के लिए टाइमआउट और संसाधन सीमाएं लागू करें
ASI06

मेमोरी और संदर्भ विषाक्तता ||

High

Attackers poison the agent's memory, context, or retrieval systems to influence future behavior or extract information.

हमला वेक्टर
  • दुर्भावनापूर्ण एम्बेडिंग के साथ जहर वेक्टर डेटाबेस
  • लक्ष्य बहाव के लिए आरएजी पुनर्प्राप्ति हेरफेर
  • गलत डेटा का दीर्घकालिक मेमोरी इंजेक्शन
  • क्रॉस-सत्र संदर्भ संदूषण
वास्तविक दुनिया के उदाहरण
  • आरएजी परिणामों में दुर्भावनापूर्ण दस्तावेज़ों को उच्च स्थान दिया गया
  • एजेंट मेमोरी में संग्रहीत गलत जानकारी
  • वेक्टर डीबी इंजेक्शन पुनर्प्राप्ति व्यवहार को बदल रहा है
शमन रणनीतियाँ
  • मेमोरी स्टोरेज से पहले सभी डेटा को सत्यापित और साफ करें
  • सुरक्षा संकेतों के साथ पुनर्प्राप्ति रैंकिंग लागू करें
  • संवेदनशील मेमोरी सामग्री के लिए एन्क्रिप्शन का उपयोग करें
  • विषम संशोधनों के लिए मेमोरी की निगरानी करें
ASI07

असुरक्षित अंतर-एजेंट संचार

Medium

Communication between agents lacks proper security controls, enabling interception, manipulation, or impersonation.

हमला वेक्टर
  • एजेंट संचार में संदेश अवरोधन
  • मल्टी-एजेंट सिस्टम में एजेंट प्रतिरूपण
  • एजेंटों के बीच संदेश से छेड़छाड़
  • एजेंटों के बीच प्रमाणीकरण की कमी
वास्तविक दुनिया के उदाहरण
  • नियामक निकाय
  • एजेंट संचार के बीच मानव-मध्य हमला
  • एजेंट वर्कफ़्लो में संदेश रीप्ले हमले
शमन रणनीतियाँ
  • एजेंट संचार के लिए आपसी टीएलएस लागू करें
  • एजेंटों के बीच हस्ताक्षरित संदेशों का उपयोग करें
  • एक एजेंट नियंत्रण को बायपास करने के लिए दूसरे का प्रतिरूपण कर रहा है
  • संदेश सत्यापन और अखंडता जांच लागू करें
ASI08

कैस्केडिंग विफलताएं

Medium

Failure in one agent, tool, or component propagates through the system, causing widespread disruption or security gaps.

हमला वेक्टर
  • एजेंट ऑर्केस्ट्रेशन में विफलता का एकल बिंदु
  • संवेदनशील डेटा को उजागर करने में त्रुटि प्रबंधन
  • सुरक्षा नियंत्रणों को दरकिनार करते हुए फ़ॉलबैक तंत्र
  • पुनरावर्ती एजेंट संसाधनों का उपभोग करने वाले लूप
वास्तविक दुनिया के उदाहरण
  • सभी अनुरोधों को अनुमति देने में विफल सत्यापन
  • सिस्टम संकेतों को उजागर करने वाले त्रुटि संदेश
  • अनुमोदन वर्कफ़्लो को दरकिनार करते हुए फ़ॉलबैक एजेंट
शमन रणनीतियाँ
  • एजेंट घटकों के लिए सर्किट ब्रेकर लागू करें
  • संरक्षित सुरक्षा के साथ सुंदर गिरावट डिजाइन करें
  • त्रुटि प्रबंधन को मान्य करें, संवेदनशील डेटा को उजागर न करें
  • अनंत लूप को रोकने के लिए निष्पादन सीमाएं निर्धारित करें
ASI09

मानव-एजेंट ट्रस्ट शोषण

Medium

Agents exploit user trust through manipulation, social engineering, or by presenting misleading information as factual.

हमला वेक्टर
  • झूठी जानकारी को विश्वसनीय तथ्यों के रूप में प्रस्तुत करना
  • प्रेरक आउटपुट के माध्यम से उपयोगकर्ताओं को हेरफेर करना
  • अनिश्चितता या त्रुटियों को छिपाना
  • एजेंट आउटपुट पर मानवीय अत्यधिक निर्भरता का शोषण
वास्तविक दुनिया के उदाहरण
  • उच्च जानकारी के साथ एजेंट निर्माण आत्मविश्वास
  • सुरक्षा खामियों के साथ कोड को सुरक्षित के रूप में प्रस्तुत किया गया है
  • उपयोगकर्ताओं से सीमाओं या त्रुटियों को छिपाना
शमन रणनीतियाँ
  • अनिश्चितता परिमाणीकरण और संचार लागू करें
  • उच्च-जोखिम कार्यों के लिए मानव अनुमोदन की आवश्यकता है
  • एजेंट आउटपुट में कॉन्फिडेंस स्कोर जोड़ें
  • एजेंट सीमाओं के बारे में उपयोगकर्ताओं को शिक्षित करें
ASI10

दुष्ट एजेंट

High

Agents operate beyond their intended scope, persist inappropriately, or take unauthorized actions across sessions or systems.

हमला वेक्टर
  • प्राधिकरण समाप्त होने के बाद भी एजेंट कार्य जारी रखता है
  • अनधिकृत एजेंट स्पॉनिंग या प्रतिकृति
  • एजेंट कार्रवाइयां उपयोगकर्ता सत्रों में बनी रहती हैं
  • एजेंट का व्यवस्थापक स्तर के कार्यों तक बढ़ना
वास्तविक दुनिया के उदाहरण
  • उपयोगकर्ता लॉगआउट के बाद जारी पृष्ठभूमि एजेंट
  • अनधिकृत एजेंट अन्य उपयोगकर्ता डेटा तक पहुंच
  • कार्य पूरा होने के बाद पहुंच बनाए रखने वाला एजेंट
शमन रणनीतियाँ
  • सत्र जीवनचक्र प्रबंधन लागू करें
  • कार्य समाप्ति और सफाई को लागू करें
  • अनधिकृत एजेंट स्पॉनिंग के लिए मॉनिटर
  • सख्त समाप्ति शर्तों को लागू करें

मॉडल संदर्भ प्रोटोकॉल (एमसीपी) सुरक्षा

MCP enables AI assistants to connect to external tools and data sources, introducing new security considerations.

एमसीपी सुरक्षा जोखिम

  • दुर्भावनापूर्ण क्षमताओं वाले अविश्वसनीय एमसीपी सर्वर
  • एमसीपी टूल एक्सेस के माध्यम से डेटा एक्सफिल्ट्रेशन
  • टूल परिभाषा विषाक्तता
  • एमसीपी सर्वर को दी गई अत्यधिक अनुमतियां

एमसीपी सुरक्षा सर्वोत्तम अभ्यास

  • एमसीपी सर्वर की प्रामाणिकता और उद्गम को सत्यापित करें
  • एमसीपी टूल अनुमतियों पर कम से कम विशेषाधिकार लागू करें
  • सभी एमसीपी सर्वर संचार का ऑडिट करें
  • एमसीपी सर्वर के लिए नेटवर्क अलगाव का उपयोग करें

एजेंट सुरक्षा वास्तुकला

परत 1: इनपुट सत्यापन

  • लक्ष्य अपहरण का पता लगाने के लिए शीघ्र फ़ायरवॉल
  • इंजेक्शन को रोकने के लिए इनपुट सैनिटाइजेशन
  • संसाधन के दुरुपयोग को रोकने के लिए दर सीमित करना
  • बाहरी डेटा के लिए सामग्री फ़िल्टरिंग

परत 2: एजेंट सैंडबॉक्स

  • पृथक निष्पादन वातावरण
  • संसाधन सीमाएं (सीपीयू, मेमोरी, नेटवर्क)
  • नेटवर्क विभाजन
  • कंटेनरीकृत टूल निष्पादन

परत 3: उपकरण प्राधिकरण

  • सुक्ष्म अनुमति स्कोपिंग
  • उपकरण उपयोग अनुमोदन वर्कफ़्लो
  • सभी टूल आमंत्रणों की ऑडिट लॉगिंग
  • समय-सीमित टूल एक्सेस

लेयर 4: मॉनिटरिंग और रिस्पांस

  • वास्तविक समय एजेंट व्यवहार की निगरानी
  • एजेंट कार्यों के लिए विसंगति का पता लगाना
  • स्वचालित खतरे की प्रतिक्रिया
  • व्यापक ऑडिट ट्रेल्स
AH
AI Hacking Team

The AI Hacking team researches and documents AI/LLM security vulnerabilities, red teaming techniques, and defensive strategies. Our guides are based on real-world pentesting experience and continuous monitoring of the AI security landscape.

Stay Ahead of AI Security

Get the latest AI/LLM security research, OWASP updates, and new vulnerabilities delivered straight to your inbox.