RAG Security: Πλήρης οδηγός
Securing Retrieval-Augmented Generation systems against document poisoning, retrieval manipulation, and embedding attacks
Updated: August 2026 • Μέρος της τεχνικής OWA8Inction|LLL|
Τι είναι το RAG;
Retrieval-Augmented Generation (RAG) is an AI architecture that combines large language models with external knowledge retrieval. Enterprise LLM deployments now use RAG extensively, making its security critical.
1. Ερώτημα χρήστη
Ολοκληρωμένη ορολογία για δοκιμές ασφάλειας AI και ασφάλεια LLM
2. Ενσωμάτωση
Προτεραιότητα στα ευρήματα ανά επίπεδο κινδύνου
3. Ανάκτηση
Similar documents retrieved from vector DB
4. Επαύξηση
Ανακτήθηκε το πλαίσιο|Εκκίνηση αναφοράς |
5. Generation
Το LLM δημιουργεί απόκριση χρησιμοποιώντας το περιβάλλον
The Trust|LearM Paradox| 10
RAG systems have a fundamental security flaw: user queries are treated as untrusted input, but retrieved context is implicitly trusted - even though both enter the same prompt. This creates a significant attack surface that traditional security doesn't address.
Δηλητηριάσεις επίθεσης
1. Δηλητηρίαση εγγράφων
Εισαγωγή κακόβουλου περιεχομένου σε έγγραφα που είναι αποθηκευμένα στη βάση γνώσεων.
Πώς λειτουργεί
- Ο εισβολέας ανεβάζει ή εισάγει κακόβουλα έγγραφα
- Τα έγγραφα ενσωματώνονται και αποθηκεύονται σε διανυσματικά DB
- Όταν γίνεται σχετικό ερώτημα, ανακτάται το δηλητηριασμένο έγγραφο
- LLM ενσωματώνει κακόβουλο περιβάλλον στην απόκριση
Επίδραση
- 90% success Τι πήγε καλά, τι χρειάζεται βελτίωση
- Λειτουργεί ακόμη και σε βάσεις δεδομένων με εκατομμύρια έγγραφα
- Μπορεί να προκαλέσει επιβλαβές ή επιβλαβές επανεισαγωγή
- Δύσκολο να εντοπιστεί μετά την ανάπτυξη
2. Χειρισμός ανάκτησης
Χειρισμός των εγγράφων που ανακτώνται για να επηρεάσουν τα αποτελέσματα.
Πώς λειτουργεί
- Ερωτήματα του Attacker crafts για την ενεργοποίηση της συγκεκριμένης ανάκτησης
- Εκμεταλλεύεται τις αδυναμίες του αλγορίθμου κατάταξης
- Χρησιμοποιεί σημασιολογική ομοιότητα για την ανάκτηση αεροπειρατείας
- Χειρισμός μεταξύ χρηστών σε κοινόχρηστα συστήματα
Επίδραση
- Αναγκάζει την ανάκτηση περιεχομένου που ελέγχεται από τους εισβολείς
- Μπορεί να καταστείλει το νόμιμο περιεχόμενο
- Ενεργοποιεί στοχευμένο χειρισμό
- Διάρριψη της εμπιστοσύνης στην ποιότητα ανάκτησης
Τερματισμός διαδικασιών αντιπροσώπου:
Ανάκτηση αρχικών δεδομένων από ενσωματώσεις διανυσμάτων.
Πώς λειτουργεί
- Συστάσεις
- Χρησιμοποιεί τεχνικές αντιστροφής σε ενσωματώσεις
- Ανακατασκευάζει το αρχικό κείμενο από διανύσματα
- Ανάκτηση ευαίσθητων ενσωματωμένων δεδομένων με χρήση Ολοκληρωμένης πηγής|Ασφάλειας |
Επίδραση
- Recover 50-70% of input words
- Εκθεση ευαίσθητων δεδομένων σε ενσωματώσεις
- Παραβάσεις απορρήτου
- Ζητήματα συμμόρφωσης (GDPR, κ.λπ.)
4. Επιθέσεις Cross-Tenant
Εκμετάλλευση κοινής υποδομής RAG σε συστήματα πολλαπλών μισθωτών.
Πώς λειτουργεί
- Ο εισβολέας είναι ένας ενοικιαστής του κοινόχρηστου συστήματος
- Πλαστοποίηση ταυτότητας σε συστήματα πολλαπλών πρακτόρων
- Εκμεταλλεύεται κοινόχρηστη διανυσματική βάση δεδομένων
- Ανακτά δεδομένα από άλλους ενοικιαστές
Επίδραση
- Διαρροή δεδομένων μεταξύ ενοικιαστών
- Μη εξουσιοδοτημένη πρόσβαση σε δεδομένα ανταγωνιστών
- Παραβάσεις συμμόρφωσης
- Εξάσκηση:
CVE του πραγματικού κόσμου
Τεκμηριωμένα τρωτά σημεία σε συστήματα RAG.
| CVE ID | Οδηγός ανάπτυξης ασφαλούς διακομιστή MCP | Περιγραφή | Σοβαρότητα | Αυτό το βιβλίο |
|---|---|---|---|---|
CVE-2025-68700 |
RAGFlow | RCE via Canvas CodeExec component - untrusted data parsed with eval() | Critical | 9.1 |
CVE-2025-69286 |
RAGFlow | Insecure API key generation allows mutual token derivation (authentication bypass) | Critical | 8.9 |
CVE-2025-25282 |
RAGFlow | IDOR vulnerability allowing cross-tenant access and unauthorized user addition | High | 8.1 |
CVE-2025-69286 |
RAGFlow | Token generation using same URLSafeTimedSerializer for API keys | High | 8.9 |
GHSA-8xw3-v6c2-j84j |
RAGFlow | RCE via stdout parsing in CodeExec component | High | 8.5 |
Στρατηγικές άμυνας
1. Ασφάλεια φάσης απορρόφησης
Document Validation
- Σάρωση όλων των εγγράφων για κακόβουλο λογισμικό
- Επικύρωση μορφής και δομής εγγράφου
- Ελέγξτε για ύποπτα μοτίβα περιεχομένου
- Επιτρέπονται οι τύποι εγγράφων ορίου
Περιεχόμενο|Φιλτράρισμα δεδομένων|Εισαγωγή δεδομένων|
- Κατάργηση PII πριν από την ενσωμάτωση
- Φίλτρο με ευαισθησία|AG Πηγή:
- Αποκλεισμός γνωστών κακόβουλων μοτίβων
- Εφαρμογή λιστών άδειας/αποκλεισμού
Στοιχεία ελέγχου πρόσβασης
- Επικύρωση πηγής εγγράφων
- Εφαρμογή RBAC για απορρόφηση
- Ίχνη ελέγχου για όλες τις μεταφορτώσεις
- Καραντίστε νέα έγγραφα
2. Ασφάλεια φάσης ανάκτησης
Εξυγίανση ερωτήματος
- Επικύρωση και απολύμανση ερωτημάτων χρήστη
- Εντοπισμός προσπαθειών έγχυσης
- Περιορίστε την πολυπλοκότητα του ερωτήματος
- Περιορισμός ρυθμού
Ανάκτηση Φιλτραρίσματος
- Εφαρμογή ασφάλειας ανακατάταξης
- Διασταυρούμενη αναφορά με αξιόπιστες πηγές
- Ανίχνευση ανώμαλων μοτίβων ανάκτησης
- Περιορισμός αριθμού εγγράφων
Απομόνωση πολλαπλών μισθώσεων
- Ξεχωριστοί διανυσματικοί χώροι ονομάτων
- Αυστηρά όρια ενοικιαστών
- Αποτροπή ερωτημάτων μεταξύ μισθωτών
- Κρυπτογράφηση ανά μισθωτή
3. Generation Phase Security
Επικύρωση εξόδου
- Ειδοποίηση απόκρισης συμβάντος
- Έλεγχος για περιεχόμενο έγχυσης
- Έλεγχος στοιχείων σε σχέση με πηγές
- Φιλτράρισμα περιεχομένου
Επαλήθευση περιβάλλοντος
- Επαληθεύστε την αυθεντικότητα του ανακτημένου περιεχομένου
- Εντοπισμός προσπαθειών χειραγώγησης
- Επισήμανση ασυνήθιστων μοτίβων περιβάλλοντος
- Καταγραφή όλων των χρήσεων περιβάλλοντος
Human-in-the-Loop
- Ελέγξτε ευαίσθητα αποτελέσματα
- Έγκριση ενεργειών υψηλού κινδύνου
- Δυνατότητα μη αυτόματης παράκαμψης
- Escalation paths
4. Ασφάλεια δεδομένων
Κρυπτογράφηση
- Προστασία χρόνου εκτέλεσης
- Tit ενέργειες
- Βέλτιστες πρακτικές διαχείρισης κλειδιών
- Σκεφτείτε την ομομορφική κρυπτογράφηση
Vector DB Security
- Ισχυρός έλεγχος ταυτότητας
- Απομόνωση δικτύου
- Τακτικοί έλεγχοι ασφαλείας
- Διαχείριση ενημερώσεων κώδικα
Προστασία απορρήτου
- Εμμονή περιόδου λειτουργίας
- Εντοπισμός και κατάργηση PII
- Πολιτικές διατήρησης
- Δικαίωμα διαγραφής υποστήριξη
Μεθοδολογία δοκιμών
Λίστα ελέγχου δοκιμής ασφάλειας RAGE exploit| δεδομένα
- Έγχυση προτροπής πολλαπλών τρόπων
- Δοκιμές χειρισμού ανάκτησης
- Ενσωμάτωση προσπαθειών αναστροφής
- Δοκιμές απομόνωσης μεταξύ των ενοικιαστών
- Δοκιμές διαρροής PII
- Δοκιμές υπερχείλισης περιβάλλοντος
- Δοκιμές χειραγώγησης κατάταξης
- Δοκιμές παράκαμψης ελέγχου ταυτότητας
- Δοκιμές έγχυσης API
- Δοκιμές άρνησης υπηρεσίας
- Δοκιμές διείσδυσης δεδομένων
- Έλεγχος συμμόρφωσης
Εργαλεία δοκιμής
Προσδιορισμός συμμόρφωσης/ρυθμιστικές απαιτήσεις (GDPR, HIPAA, κ.λπ.)
Παράδειγμα επικύρωσης εγγράφου
```python
import re
from typing import List
class RAGDocumentValidator:
SUSPICIOUS_PATTERNS = [
r"ignore previous instructions",
r"system prompt:",
r"{{.*}}",
r"you are now dan",
]
PII_PATTERNS = [
r"\b\d{3}-\d{2}-\d{4}\b", # SSN
r"\b[A-Za-z0-9._%+-]+@[A-Za-z0-9.-]+\.[A-Z|a-z]{2,}\b", # Email
r"\b\d{16}\b", # Credit card
]
def validate_document(self, content: str) -> dict:
"""Validate document before embedding."""
warnings = []
blocked = False
# Check for suspicious patterns
for pattern in self.SUSPICIOUS_PATTERNS:
if re.search(pattern, content, re.IGNORECASE):
warnings.append(f"Suspicious pattern: {pattern}")
blocked = True
# Check for PII
for pattern in self.PII_PATTERNS:
if re.search(pattern, content):
warnings.append(f"PII detected: {pattern}")
return {
"valid": not blocked,
"warnings": warnings,
"pii_detected": len([w for w in warnings if "PII" in w]) > 0
}
```