Hub di test sulla sicurezza dell'intelligenza artificiale
Metodologie di test complete per proteggere i sistemi AI e LLM. Dalla ricognizione manuale ai test contraddittori automatizzati.
Approcci di test
Test manuale
ESSENTIALTest pratici utilizzando suggerimenti predisposti, casi limite e input creativi. Ideale per scoprire nuove vulnerabilità che gli strumenti automatizzati non rilevano.
- Iniezione rapida con variazioni di codifica
- Tentativi di estrazione tempestivi del sistema
- Manipolazione del contesto e jailbreak
Strumenti chiave: Burp Suite, custom scripts, browser DevTools
Scansione automatizzata
SCALABLEUtilizza strumenti specializzati per sondare sistematicamente le vulnerabilità note su larga scala. Ideale per test di regressione e pipeline CI/CD.
- Suite di test di iniezione rapidi
- Scansione dell'endpoint API
- Controllo della configurazione
Strumenti chiave: Garak, PyRIT, LLM Guard
Red Teaming
ADVANCEDCoinvolgimento contraddittorio strutturato che simula il comportamento reale dell'aggressore. Copre la ricognizione, lo sfruttamento e la valutazione dell'impatto.
- Sfruttamento della conversazione multigiro
- Abuso della catena di strumenti e iniezione di funzioni
- Ingegneria sociale tramite output dell'intelligenza artificiale
Strumenti chiave: PyRIT, Purple Llama, Adversarial Robustness Toolbox
Test contraddittorio
SPECIALIZEDGenera esempi contraddittori per testare la robustezza del modello. Concentrati su attacchi basati su gradiente, analisi delle perturbazioni e trasferibilità.
- Attacchi FGSM e PGD agli incorporamenti
- Perturbazioni a livello di personaggio
- Trasferibilità tra modelli
Strumenti chiave: CleverHans, Foolbox, TextAttack
Fuzzing
EMERGINGApplicare le tradizionali tecniche di fuzzing ai sistemi di intelligenza artificiale. Genera input non validi per innescare comportamenti imprevisti, arresti anomali o divulgazione di informazioni.
- Fuzzing rapido basato sulla grammatica
- Test dei confini dei token
- Fuzzing dell'input multilingue
Strumenti chiave: DeepXplore, TensorFuzz, custom fuzzers
Test del flusso di lavoro
Segui questo approccio strutturato per ogni valutazione della sicurezza dell'IA:
Definire confini, obiettivi e regole di ingaggio.
Mappa la superficie di attacco, le API e le integrazioni.
Eseguire casi di test, documentare i risultati.
Confermare la sfruttabilità e l'impatto aziendale.
Documentare i risultati con le fasi di correzione.
Red Teaming
Metodologia completa per testare i sistemi di intelligenza artificiale: dalla ricognizione alla bonifica.
Ulteriori informazioni →Utensili
Raccolta curata di strumenti e framework per testare la sicurezza dell'intelligenza artificiale.
Strumenti di navigazione →