De generalisatiefout meet hoever een AI-model ernaast zit bij nieuwe, nog niet eerder geziene data – in tegenstelling tot de fout op de trainingsdata. Een groot verschil tussen beide wijst op overfitting: het model heeft voorbeelden uit het hoofd geleerd in plaats van algemene patronen. Ze wordt geschat met achtergehouden testdata of kruisvalidatie. Het is het cijfer dat er echt toe doet, omdat een model in de praktijk bijna alleen nieuwe gevallen tegenkomt.
Agents, workflows en sjablonen in één werkruimte – gratis demo van 24 uur.
Demo startenOverfitting treedt op wanneer een model de trainingsgegevens uit het hoofd leert, inclusief toevallige eigenaardigheden en ruis, in plaats van algemeen geldende patronen vast te leggen. Het lijkt dan zeer nauwkeurig op bekende gegevens, maar presteert slecht op nieuwe gegevens. Een groot verschil tussen trainings- en testfout is een typisch teken. Tegenmaatregelen zijn meer of gevarieerdere gegevens, eenvoudigere modellen, regularisatie, dropout en kruisvalidatie.
Underfitting treedt op wanneer een model te eenvoudig is om de verbanden in de gegevens vast te leggen. Het maakt dan veel fouten, zowel op de trainingsgegevens als op nieuwe gegevens, bijvoorbeeld wanneer een rechte lijn wordt gebruikt voor een duidelijk gebogen patroon. Remedies zijn een krachtiger model, informatievere features, langer trainen of minder regularisatie; het omgekeerde probleem is overfitting.
De trainingsfout geeft aan hoeveel de voorspellingen van een model afwijken van de juiste waarden op precies de gegevens waarop het is getraind. Op zichzelf zegt ze weinig: waar het om gaat is de vergelijking met de generalisatiefout op nieuwe gegevens. Een hoge trainingsfout wijst op underfitting; een zeer lage trainingsfout in combinatie met een hoge fout op testgegevens duidt meestal op overfitting.
Kruisvalidatie is een methode om te controleren hoe goed een model generaliseert naar nieuwe, onbekende data. Bij k-voudige kruisvalidatie wordt de data in k delen gesplitst; het model wordt k keer getraind op k−1 delen en telkens getest op het resterende deel, waarna de resultaten worden gemiddeld. Dit helpt overfitting op te sporen en modellen of instellingen eerlijk te vergelijken, vooral wanneer weinig data beschikbaar is.
