Hub voor AI-beveiligingstests
Uitgebreide testmethoden voor het beveiligen van AI- en LLM-systemen. Van handmatige verkenning tot geautomatiseerde vijandige tests.
Benaderingen testen
Handmatig testen
ESSENTIALPraktisch testen met behulp van zelfgemaakte aanwijzingen, randgevallen en creatieve input. Het beste voor het ontdekken van nieuwe kwetsbaarheden die geautomatiseerde tools over het hoofd zien.
- Snelle injectie met coderingsvariaties
- Systeemprompt-extractiepogingen
- Contextmanipulatie en jailbreaks
Belangrijkste hulpmiddelen: Burp Suite, custom scripts, browser DevTools
Geautomatiseerd scannen
SCALABLEGebruik gespecialiseerde tools om systematisch op grote schaal naar bekende kwetsbaarheden te zoeken. Ideaal voor regressietesten en CI/CD-pijplijnen.
- Snelle injectietestsuites
- Scannen van API-eindpunten
- Configuratie-audit
Belangrijkste hulpmiddelen: Garak, PyRIT, LLM Guard
Red Teaming
ADVANCEDGestructureerde vijandige betrokkenheid die het gedrag van echte aanvallers simuleert. Omvat verkenning, exploitatie en effectbeoordeling.
- Multi-turn gespreksexploitatie
- Misbruik van gereedschapsketen en functie-injectie
- Social engineering via AI-uitgangen
Belangrijkste hulpmiddelen: PyRIT, Purple Llama, Adversarial Robustness Toolbox
Tegenstrijdige testen
SPECIALIZEDGenereer vijandige voorbeelden om de robuustheid van modellen te testen. Focus op op gradiënten gebaseerde aanvallen, verstoringsanalyse en overdraagbaarheid.
- FGSM- en PGD-aanvallen op inbedding
- Verstoringen op karakterniveau
- Overdraagbaarheid tussen modellen
Belangrijkste hulpmiddelen: CleverHans, Foolbox, TextAttack
Fuzzend
EMERGINGPas traditionele fuzzing-technieken toe op AI-systemen. Genereer verkeerd opgemaakte invoer om onverwacht gedrag, crashes of openbaarmaking van informatie te veroorzaken.
- Op grammatica gebaseerde prompt-fuzzing
- Tokengrens testen
- Meertalige invoer fuzzing
Belangrijkste hulpmiddelen: DeepXplore, TensorFuzz, custom fuzzers
Werkstroom testen
Volg deze gestructureerde aanpak voor elke AI-beveiligingsbeoordeling:
Definieer grenzen, doelen en regels voor betrokkenheid.
Breng aanvalsoppervlak, API's en integraties in kaart.
Testgevallen uitvoeren, bevindingen documenteren.
Bevestig de exploiteerbaarheid en zakelijke impact.
Documenteer bevindingen met herstelstappen.
Red Teaming
Uitgebreide methodologie voor het testen van AI-systemen – van verkenning tot herstel.
Meer informatie →