Woordenlijst

Hyperparameteroptimalisatie

Wat is Hyperparameteroptimalisatie?

Hyperparameters zijn instellingen die vóór het trainen van een model worden vastgelegd, zoals de leersnelheid, het aantal lagen of de sterkte van de regularisatie. Hyperparameteroptimalisatie zoekt systematisch de combinatie die het best presteert op validatiedata, bijvoorbeeld via grid search, random search of bayesiaanse optimalisatie. Goed gekozen waarden verbeteren de nauwkeurigheid en verminderen over- of underfitting, maar het zoeken kost rekentijd.

Hoe KI.ordo helpt

KI.ordo traint geen modellen; een verwante regeling is de schuifregelaar ‘temperatuur’ van de agents, een instelling tijdens het uitvoeren die bepaalt hoe gevarieerd de antwoorden zijn.

Meer informatie

Onderwerpen

Training
Modelkwaliteit
Tuning

KI.ordo uitproberen

Agents, workflows en sjablonen in één werkruimte – gratis demo van 24 uur.

Demo starten

← Alle begrippen

Verwante begrippen

Overfitting

Overfitting treedt op wanneer een model de trainingsgegevens uit het hoofd leert, inclusief toevallige eigenaardigheden en ruis, in plaats van algemeen geldende patronen vast te leggen. Het lijkt dan zeer nauwkeurig op bekende gegevens, maar presteert slecht op nieuwe gegevens. Een groot verschil tussen trainings- en testfout is een typisch teken. Tegenmaatregelen zijn meer of gevarieerdere gegevens, eenvoudigere modellen, regularisatie, dropout en kruisvalidatie.

modelkwaliteit
training
+1

Kruisvalidatie

Kruisvalidatie is een methode om te controleren hoe goed een model generaliseert naar nieuwe, onbekende data. Bij k-voudige kruisvalidatie wordt de data in k delen gesplitst; het model wordt k keer getraind op k−1 delen en telkens getest op het resterende deel, waarna de resultaten worden gemiddeld. Dit helpt overfitting op te sporen en modellen of instellingen eerlijk te vergelijken, vooral wanneer weinig data beschikbaar is.

Modelevaluatie
Validatie
+1

Machine learning

Machine learning is een tak van de kunstmatige intelligentie waarin computers patronen uit data afleiden in plaats van dat elke regel expliciet wordt geprogrammeerd. Afhankelijk van de taak leren modellen van gelabelde voorbeelden (gesuperviseerd), van ongelabelde data (ongesuperviseerd) of via beloningen (reinforcement). Toepassingen variëren van spamfilters en vraagvoorspellingen tot productaanbevelingen. De kwaliteit hangt sterk af van de hoeveelheid en kwaliteit van de trainingsdata.

basisprincipes
AI
+1

Regularisatie

Regularisatie omvat technieken die voorkomen dat een model zich tijdens het trainen te sterk aan de trainingsgegevens aanpast (overfitting). Voorbeelden zijn het bestraffen van grote gewichten (L1- of L2-regularisatie), het willekeurig uitschakelen van neuronen (dropout) of het op het juiste moment stoppen met trainen (early stopping). Het doel is een eenvoudiger model dat betrouwbaarder presteert op nieuwe, onbekende gegevens, ook als het op de trainingsgegevens iets lager scoort.

training
overfitting
+1