Woordenlijst

Adversarial machine learning

Wat is Adversarial machine learning?

Adversarial machine learning onderzoekt hoe AI-modellen kunnen worden misleid door opzettelijk gemanipuleerde invoer of trainingsdata – en hoe ze daartegen kunnen worden beschermd. Bekende voorbeelden zijn nauwelijks zichtbare beeldwijzigingen die een classificatie laten omslaan, of vergiftigde trainingsdata. Het onderwerp wordt relevant voor organisaties zodra AI beveiligingsrelevante beslissingen ondersteunt. Tegenmaatregelen zijn onder meer robuuste training, invoercontroles, monitoring en regelmatige beveiligingstests.

Onderwerpen

AI-beveiliging
Robuustheid
Bescherming tegen dreigingen

KI.ordo uitproberen

Agents, workflows en sjablonen in één werkruimte – gratis demo van 24 uur.

Demo starten

← Alle begrippen

Verwante begrippen

Robuustheid van modellen

Robuustheid van modellen beschrijft hoe betrouwbaar een AI-model presteert wanneer de invoer ruis bevat, onvolledig of ongebruikelijk is, of opzettelijk is gemanipuleerd. Een robuust model levert dan nog steeds stabiele resultaten, bijvoorbeeld bij beeldherkenning in slecht licht of bij een taalmodel dat typefouten verwerkt. Robuustheid wordt beoordeeld met stresstests, uiteenlopende trainingsgegevens en tests tegen pogingen tot opzettelijke misleiding, en is vooral belangrijk bij veiligheidskritieke toepassingen.

betrouwbaarheid
modelkwaliteit
+1

AI-red-teaming

AI-red-teaming is het gestructureerd onderzoeken van een AI-systeem vanuit het perspectief van potentiële aanvallers of misbruik. Specialisten testen gecontroleerd of een chatbot zijn vertrouwelijke opdracht prijsgeeft, tot ongewenst gedrag kan worden verleid, onjuiste feiten levert of gegevens blootlegt. De bevindingen leiden tot betere opdrachten, filters en rechten. Een beveiligingsaudit voor chatbots is een lichtere vorm: die beoordeelt de configuratie en voorbeeldgesprekken aan de hand van bekende risicogebieden zoals de OWASP Top 10 voor LLM-toepassingen.

AI-beveiliging
Beveiligingstests
+1

Sjabloon

LLM-beveiliging

LLM-beveiliging omvat alle maatregelen die toepassingen op basis van grote taalmodellen beschermen tegen misbruik, datalekken en ongewenst gedrag. Typische risico’s zijn prompt injection, het prijsgeven van vertrouwelijke instructies of gegevens, en agents met te ruime rechten. Bescherming komt uit meerdere lagen: duidelijke instructies, beperkte rechten, controles op invoer en uitvoer, AI-firewalls, red teaming en regelmatige audits.

beveiliging
taalmodellen
+1

Sjabloon

Trainingsgegevens

Trainingsgegevens zijn de voorbeelden waaruit een AI-model patronen leert: grote tekstverzamelingen voor taalmodellen, gelabelde afbeeldingen voor beeldmodellen. Hun kwaliteit, diversiteit en actualiteit bepalen grotendeels hoe betrouwbaar en eerlijk een model is en hoe actueel zijn kennis zal zijn. Voor organisaties is ook van belang of een aanbieder de klantgegevens die zij invoeren voor verdere training gebruikt.

Gegevens
Training
+1