Woordenlijst

Robuustheid van modellen

Wat is Robuustheid van modellen?

Robuustheid van modellen beschrijft hoe betrouwbaar een AI-model presteert wanneer de invoer ruis bevat, onvolledig of ongebruikelijk is, of opzettelijk is gemanipuleerd. Een robuust model levert dan nog steeds stabiele resultaten, bijvoorbeeld bij beeldherkenning in slecht licht of bij een taalmodel dat typefouten verwerkt. Robuustheid wordt beoordeeld met stresstests, uiteenlopende trainingsgegevens en tests tegen pogingen tot opzettelijke misleiding, en is vooral belangrijk bij veiligheidskritieke toepassingen.

Onderwerpen

betrouwbaarheid
modelkwaliteit
beveiliging

KI.ordo uitproberen

Agents, workflows en sjablonen in één werkruimte – gratis demo van 24 uur.

Demo starten

← Alle begrippen

Verwante begrippen

Adversarial machine learning

Adversarial machine learning onderzoekt hoe AI-modellen kunnen worden misleid door opzettelijk gemanipuleerde invoer of trainingsdata – en hoe ze daartegen kunnen worden beschermd. Bekende voorbeelden zijn nauwelijks zichtbare beeldwijzigingen die een classificatie laten omslaan, of vergiftigde trainingsdata. Het onderwerp wordt relevant voor organisaties zodra AI beveiligingsrelevante beslissingen ondersteunt. Tegenmaatregelen zijn onder meer robuuste training, invoercontroles, monitoring en regelmatige beveiligingstests.

AI-beveiliging
Robuustheid
+1

Modeldrift

Modeldrift is de geleidelijke afname van de voorspelkwaliteit van een model tijdens het gebruik, doordat de werkelijkheid verandert ten opzichte van de trainingsgegevens. Er wordt onderscheid gemaakt tussen veranderingen in de invoergegevens (datadrift) en veranderingen in het verband tussen invoer en uitkomst (conceptdrift). Voorbeeld: een model voor fraudedetectie ziet nieuwe fraudepatronen over het hoofd. Als remedie dienen voortdurende bewaking van de meetwaarden en regelmatig hertrainen.

MLOps
modelkwaliteit
+1

Generalisatiefout

De generalisatiefout meet hoever een AI-model ernaast zit bij nieuwe, nog niet eerder geziene data – in tegenstelling tot de fout op de trainingsdata. Een groot verschil tussen beide wijst op overfitting: het model heeft voorbeelden uit het hoofd geleerd in plaats van algemene patronen. Ze wordt geschat met achtergehouden testdata of kruisvalidatie. Het is het cijfer dat er echt toe doet, omdat een model in de praktijk bijna alleen nieuwe gevallen tegenkomt.

Machine learning
Modelevaluatie
+1

Overfitting

Overfitting treedt op wanneer een model de trainingsgegevens uit het hoofd leert, inclusief toevallige eigenaardigheden en ruis, in plaats van algemeen geldende patronen vast te leggen. Het lijkt dan zeer nauwkeurig op bekende gegevens, maar presteert slecht op nieuwe gegevens. Een groot verschil tussen trainings- en testfout is een typisch teken. Tegenmaatregelen zijn meer of gevarieerdere gegevens, eenvoudigere modellen, regularisatie, dropout en kruisvalidatie.

modelkwaliteit
training
+1