Overfitting treedt op wanneer een model de trainingsgegevens uit het hoofd leert, inclusief toevallige eigenaardigheden en ruis, in plaats van algemeen geldende patronen vast te leggen. Het lijkt dan zeer nauwkeurig op bekende gegevens, maar presteert slecht op nieuwe gegevens. Een groot verschil tussen trainings- en testfout is een typisch teken. Tegenmaatregelen zijn meer of gevarieerdere gegevens, eenvoudigere modellen, regularisatie, dropout en kruisvalidatie.
Agents, workflows en sjablonen in één werkruimte – gratis demo van 24 uur.
Demo startenUnderfitting treedt op wanneer een model te eenvoudig is om de verbanden in de gegevens vast te leggen. Het maakt dan veel fouten, zowel op de trainingsgegevens als op nieuwe gegevens, bijvoorbeeld wanneer een rechte lijn wordt gebruikt voor een duidelijk gebogen patroon. Remedies zijn een krachtiger model, informatievere features, langer trainen of minder regularisatie; het omgekeerde probleem is overfitting.
Regularisatie omvat technieken die voorkomen dat een model zich tijdens het trainen te sterk aan de trainingsgegevens aanpast (overfitting). Voorbeelden zijn het bestraffen van grote gewichten (L1- of L2-regularisatie), het willekeurig uitschakelen van neuronen (dropout) of het op het juiste moment stoppen met trainen (early stopping). Het doel is een eenvoudiger model dat betrouwbaarder presteert op nieuwe, onbekende gegevens, ook als het op de trainingsgegevens iets lager scoort.
Kruisvalidatie is een methode om te controleren hoe goed een model generaliseert naar nieuwe, onbekende data. Bij k-voudige kruisvalidatie wordt de data in k delen gesplitst; het model wordt k keer getraind op k−1 delen en telkens getest op het resterende deel, waarna de resultaten worden gemiddeld. Dit helpt overfitting op te sporen en modellen of instellingen eerlijk te vergelijken, vooral wanneer weinig data beschikbaar is.
De generalisatiefout meet hoever een AI-model ernaast zit bij nieuwe, nog niet eerder geziene data – in tegenstelling tot de fout op de trainingsdata. Een groot verschil tussen beide wijst op overfitting: het model heeft voorbeelden uit het hoofd geleerd in plaats van algemene patronen. Ze wordt geschat met achtergehouden testdata of kruisvalidatie. Het is het cijfer dat er echt toe doet, omdat een model in de praktijk bijna alleen nieuwe gevallen tegenkomt.
