Woordenlijst

Convergentie

Wat is Convergentie?

Bij machine learning betekent convergentie dat een trainingsprocedure een stabiele toestand benadert: het verlies daalt nauwelijks nog en de modelparameters veranderen slechts minimaal. Of en hoe snel een model convergeert, hangt af van factoren zoals leersnelheid, datakwaliteit en modelarchitectuur. Bij een te hoge leersnelheid springt het verlies heen en weer; bij een te lage duurt de training onnodig lang. Convergentie garandeert geen goed model, want het kan nog steeds overfit zijn.

Onderwerpen

Training
Optimalisatie
Machine learning

KI.ordo uitproberen

Agents, workflows en sjablonen in één werkruimte – gratis demo van 24 uur.

Demo starten

← Alle begrippen

Verwante begrippen

Gradiëntdaling

Gradiëntdaling is de optimalisatiemethode waarmee de meeste AI-modellen worden getraind. U meet hoe groot de fout van het model is, berekent in welke richting de parameters moeten veranderen om die te verkleinen en zet dan een kleine stap in die richting – steeds opnieuw. Het is als een wandelaar in de mist die steeds bergafwaarts blijft lopen om het dal te bereiken. De stapgrootte (leersnelheid) bepaalt snelheid en stabiliteit.

Optimalisatie
Modeltraining
+1

Leercurve

Bij machine learning is een leercurve een grafiek die de prestatie of fout van een model laat zien over de trainingstijd of de hoeveelheid trainingsdata, meestal apart voor trainings- en validatiedata. De vorm laat zien of een model underfit of overfit is en of meer data waarschijnlijk zal helpen. Blijft de validatiefout bijvoorbeeld ruim boven de trainingsfout, dan wijst dat op overfitting. In de dagelijkse taal beschrijft de term ook hoe snel mensen een nieuwe technologie onder de knie krijgen.

Training
Modelevaluatie
+1

Trainingsfout

De trainingsfout geeft aan hoeveel de voorspellingen van een model afwijken van de juiste waarden op precies de gegevens waarop het is getraind. Op zichzelf zegt ze weinig: waar het om gaat is de vergelijking met de generalisatiefout op nieuwe gegevens. Een hoge trainingsfout wijst op underfitting; een zeer lage trainingsfout in combinatie met een hoge fout op testgegevens duidt meestal op overfitting.

Machine learning
Beoordeling
+1

Hyperparameteroptimalisatie

Hyperparameters zijn instellingen die vóór het trainen van een model worden vastgelegd, zoals de leersnelheid, het aantal lagen of de sterkte van de regularisatie. Hyperparameteroptimalisatie zoekt systematisch de combinatie die het best presteert op validatiedata, bijvoorbeeld via grid search, random search of bayesiaanse optimalisatie. Goed gekozen waarden verbeteren de nauwkeurigheid en verminderen over- of underfitting, maar het zoeken kost rekentijd.

Training
Modelkwaliteit
+1