Bagging (kort voor bootstrap aggregating) is een ensemblemethode in machine learning: veel modellen worden getraind op willekeurig getrokken steekproeven uit de trainingsdata, en hun voorspellingen worden gemiddeld of via een meerderheidsstemming gecombineerd. Dat maakt de resultaten stabieler en vermindert overfitting. Het bekendste voorbeeld is de random forest, die veel beslisbomen combineert – bijvoorbeeld om klantverloop of prijzen te voorspellen.
Agents, workflows en sjablonen in één werkruimte – gratis demo van 24 uur.
Demo startenRandom forest-regressie voorspelt numerieke waarden door veel beslisbomen te combineren. Elke boom wordt getraind op een willekeurige steekproef van de gegevens en een willekeurige selectie van features; het resultaat is het gemiddelde van de voorspellingen van alle bomen. Daardoor is de methode robuuster en minder gevoelig voor overfitting dan één enkele boom. Ze wordt bijvoorbeeld gebruikt voor omzetprognoses, prijsschattingen of energievraag – vaak als solide uitgangspunt voor tabelgegevens.
Boosting is een ensemblemethode in machine learning waarbij veel eenvoudige modellen na elkaar worden getraind; elk nieuw model richt zich op de gevallen die zijn voorgangers verkeerd hadden. Samen vormen ze een veel nauwkeuriger totaalmodel. Bekende varianten zijn AdaBoost en gradient boosting, met bibliotheken zoals XGBoost of LightGBM. Boosting is bijzonder sterk bij tabeldata, bijvoorbeeld voor prognoses van kredietrisico, omzet of klantverloop.
Een beslisboom is een model dat een beslissing weergeeft als een reeks eenvoudige ja/nee-vragen: elke tak toetst één kenmerk en elk blad geeft een uitkomst. Bij machine learning worden zulke bomen automatisch uit data geleerd en gebruikt voor classificatie of voorspelling. Hun grote kracht is transparantie – ze laten bijvoorbeeld zien waarom een kredietaanvraag is gemarkeerd op basis van inkomen, looptijd en betalingsverleden.
Overfitting treedt op wanneer een model de trainingsgegevens uit het hoofd leert, inclusief toevallige eigenaardigheden en ruis, in plaats van algemeen geldende patronen vast te leggen. Het lijkt dan zeer nauwkeurig op bekende gegevens, maar presteert slecht op nieuwe gegevens. Een groot verschil tussen trainings- en testfout is een typisch teken. Tegenmaatregelen zijn meer of gevarieerdere gegevens, eenvoudigere modellen, regularisatie, dropout en kruisvalidatie.
