Woordenlijst

Modeldrift

Wat is Modeldrift?

Modeldrift is de geleidelijke afname van de voorspelkwaliteit van een model tijdens het gebruik, doordat de werkelijkheid verandert ten opzichte van de trainingsgegevens. Er wordt onderscheid gemaakt tussen veranderingen in de invoergegevens (datadrift) en veranderingen in het verband tussen invoer en uitkomst (conceptdrift). Voorbeeld: een model voor fraudedetectie ziet nieuwe fraudepatronen over het hoofd. Als remedie dienen voortdurende bewaking van de meetwaarden en regelmatig hertrainen.

Onderwerpen

MLOps
modelkwaliteit
monitoring

KI.ordo uitproberen

Agents, workflows en sjablonen in één werkruimte – gratis demo van 24 uur.

Demo starten

← Alle begrippen

Verwante begrippen

Robuustheid van modellen

Robuustheid van modellen beschrijft hoe betrouwbaar een AI-model presteert wanneer de invoer ruis bevat, onvolledig of ongebruikelijk is, of opzettelijk is gemanipuleerd. Een robuust model levert dan nog steeds stabiele resultaten, bijvoorbeeld bij beeldherkenning in slecht licht of bij een taalmodel dat typefouten verwerkt. Robuustheid wordt beoordeeld met stresstests, uiteenlopende trainingsgegevens en tests tegen pogingen tot opzettelijke misleiding, en is vooral belangrijk bij veiligheidskritieke toepassingen.

betrouwbaarheid
modelkwaliteit
+1

Trainingsgegevens

Trainingsgegevens zijn de voorbeelden waaruit een AI-model patronen leert: grote tekstverzamelingen voor taalmodellen, gelabelde afbeeldingen voor beeldmodellen. Hun kwaliteit, diversiteit en actualiteit bepalen grotendeels hoe betrouwbaar en eerlijk een model is en hoe actueel zijn kennis zal zijn. Voor organisaties is ook van belang of een aanbieder de klantgegevens die zij invoeren voor verdere training gebruikt.

Gegevens
Training
+1

MLflow

MLflow is een open-sourceplatform voor het beheer van de volledige levenscyclus van machinelearningmodellen, oorspronkelijk in 2018 geïntroduceerd door Databricks. Het legt experimenten vast met hun parameters en meetwaarden, beheert modelversies in een register en vereenvoudigt de uitrol. Recentere versies ondersteunen ook het traceren en evalueren van toepassingen die op taalmodellen zijn gebouwd. Teams kunnen zo nagaan welk model met welke gegevens en instellingen is ontstaan.

MLOps
open source
+1

Nauwkeurigheid en stabiliteit van AI-modellen

Nauwkeurigheid beschrijft hoe vaak een AI-model correcte resultaten levert; stabiliteit beschrijft hoe betrouwbaar die prestatie standhoudt – bij licht gewijzigde invoer, nieuwe data of in de loop van de tijd. Een model kan in tests zeer nauwkeurig zijn en toch instabiel als alleen al het anders formuleren van een vraag tot een ander antwoord leidt. Voor praktijkgebruik worden beide eigenschappen gecontroleerd met vaste testgevallen, kruisvalidatie en doorlopende monitoring.

Modelkwaliteit
Robuustheid
+1