Boosting is een ensemblemethode in machine learning waarbij veel eenvoudige modellen na elkaar worden getraind; elk nieuw model richt zich op de gevallen die zijn voorgangers verkeerd hadden. Samen vormen ze een veel nauwkeuriger totaalmodel. Bekende varianten zijn AdaBoost en gradient boosting, met bibliotheken zoals XGBoost of LightGBM. Boosting is bijzonder sterk bij tabeldata, bijvoorbeeld voor prognoses van kredietrisico, omzet of klantverloop.
Agents, workflows en sjablonen in één werkruimte – gratis demo van 24 uur.
Demo startenGradient boosting is een machine-learningtechniek die veel eenvoudige modellen – meestal kleine beslisbomen – na elkaar combineert. Elke nieuwe boom wordt gericht getraind om de resterende fouten van de vorige te verkleinen. Het resultaat zijn zeer nauwkeurige modellen voor tabeldata, bijvoorbeeld voor kredietrisico, omzetvoorspellingen of de kans op klantenverloop. Bekende implementaties zijn XGBoost, LightGBM en CatBoost; zorgvuldige afstemming is nodig om overfitting te voorkomen.
XGBoost (Extreme Gradient Boosting) is een open-sourcebibliotheek die gradient boosting met beslisbomen bijzonder efficiënt implementeert. Veel kleine bomen worden na elkaar getraind, waarbij elke boom de fouten van de vorige corrigeert, terwijl regularisatie helpt overfitting te voorkomen. XGBoost geldt als een beproefde keuze voor tabelgegevens, bijvoorbeeld bij kredietrisicoscores, het voorspellen van klantverloop of omzetprognoses.
LightGBM is een open-sourcebibliotheek voor gradient boosting met beslisbomen, oorspronkelijk ontwikkeld door Microsoft. Ze is ontworpen voor snelheid en laag geheugengebruik, onder meer door histogramgebaseerde training en bomen die bladgewijs groeien bij het meest veelbelovende blad. LightGBM is vooral geschikt voor grote tabeldatasets, bijvoorbeeld voor omzetvoorspellingen, voorspelling van klantenverloop of fraudedetectie, en wordt vaak met XGBoost vergeleken.
Bagging (kort voor bootstrap aggregating) is een ensemblemethode in machine learning: veel modellen worden getraind op willekeurig getrokken steekproeven uit de trainingsdata, en hun voorspellingen worden gemiddeld of via een meerderheidsstemming gecombineerd. Dat maakt de resultaten stabieler en vermindert overfitting. Het bekendste voorbeeld is de random forest, die veel beslisbomen combineert – bijvoorbeeld om klantverloop of prijzen te voorspellen.
