Beveiligde AI-ontwikkeling
Bouw veilige AI-applicaties met best practices, defensieve patronen en codevoorbeelden voor elke laag van de stapel.
Beveiliging door ontwerpprincipes
Integreer beveiliging vanaf de eerste regel code, niet als een bijzaak:
- Zero-Trust voor AI: Vertrouw nooit modeluitvoer. Valideer, zuiver en beperk elke reactie voordat deze gebruikers of downstream-systemen bereikt.
- Diepteverdediging: Combineer meerdere bedieningselementen (ingangsfilters, uitgangsbewakers, snelheidslimieten en monitoring) zodat een enkele storing het systeem niet in gevaar brengt.
- Minste privilege: Geef AI-systemen alleen de rechten die ze absoluut nodig hebben. Beperk de toegang tot het bestandssysteem, het netwerk en de API.
- Veilig falen: Als er iets misgaat, ga dan naar de veiligste status. Weiger dubbelzinnige invoer in plaats van te proberen deze te verwerken.
- Waarneembaarheid: Registreer elke AI-interactie met volledige context. Controleer op afwijkingen, drift- en aanvalspatronen.
Belangrijke beveiligingsgebieden
Invoervalidatie
Behandel alle gebruikersinvoer als vijandig. Pas strikte validatie toe voordat gegevens het model bereiken.
- Toegestane karakters en patronen op de witte lijst zetten
- Beperk de invoerlengte op agressieve wijze
- Weiger gecodeerde of versluierde payloads
- Valideer tegen bekende injectiepatronen
import re
def validate_input(user_input):
if len(user_input) > 1000:
raise ValueError("Input too long")
if not re.match(r'^[\w\s.,!?-]+$', user_input):
raise ValueError("Invalid characters")
return user_input
Uitgangsreiniging
Modeluitvoer kan schadelijke inhoud, lekken of injectieartefacten bevatten. Ontsmetten vóór tentoonstelling.
- Verwijder HTML/JS uit modeluitvoer
- Filter PII en gevoelige patronen
- Blokkeer bekende kwaadaardige uitvoerpatronen
- Uitgangslengte en -frequentie met snelheidslimiet
import bleach
def sanitize_output(model_output):
clean = bleach.clean(model_output, tags=[], strip=True)
# Remove potential system prompt leaks
clean = re.sub(r'(?i)(system|instruction|prompt):', '[REDACTED]', clean)
return clean
API-beveiliging
Beveilig LLM API-eindpunten met authenticatie, snelheidsbeperking en sleutelroulatie.
- Dwing API-sleutelverificatie per eindpunt af
- Implementeer gelaagde tarieflimieten per gebruiker/IP
- Roteer API-sleutels op basis van compromis of planning
- Controleer op afwijkende gebruikspatronen
Modelbeveiliging
Bescherm modelgewichten, configuraties en gevolgtrekkingsinfrastructuur.
- Versleutel modelbestanden in rust en onderweg
- Beperk de toegang tot modelartefacten
- Controleer op extractiepogingen
- Gebruik modelwatermerken voor traceerbaarheid
Gegevensbescherming
Beveilig trainingsgegevens, gebruikersinvoer en gespreksgeschiedenis.
- Anonimiseer trainingsgegevenssets
- Implementeer limieten voor het bewaren van gesprekken
- Versleutel opgeslagen gesprekken
- Gebruikers toestaan hun gegevens te verwijderen (AVG/CCPA)
Veelvoorkomende fouten die u moet vermijden
Modeluitvoer vertrouwen
Geef nooit onbewerkte modeluitvoer door aan databases, shells of gebruikers zonder validatie. Modellen kunnen worden gejailbreakt om SQL-injectie-, XSS- of opdrachtinjectie-payloads te genereren.
Overmatig toegeeflijke systeemprompts
Systeemprompts met brede instructies zoals "wees behulpzaam" of "beantwoord elke vraag" zijn gemakkelijk te manipuleren. Gebruik beperkte, specifieke instructies met expliciete grenzen.
Geen snelheidsbeperking
Zonder snelheidslimieten kunnen aanvallers prompts bruut forceren, gegevens extraheren via herhaalde zoekopdrachten of API-kosten opdrijven. Implementeer gelaagde limieten per gebruiker en per IP.
Het negeren van vijandige tests
Implementeren zonder vijandige tests is als verzendcode zonder unit-tests. Gebruik tools als Garak en PyRIT om kwetsbaarheden te vinden voordat aanvallers dat doen.
Ga dieper
Ontdek onze uitgebreide handleiding voor veilige ontwikkeling voor gedetailleerde codevoorbeelden, architectuurpatronen en CI/CD-integratie.
Handleiding voor veilige ontwikkeling →