Woordenlijst

Gradient boosting

Wat is Gradient boosting?

Gradient boosting is een machine-learningtechniek die veel eenvoudige modellen – meestal kleine beslisbomen – na elkaar combineert. Elke nieuwe boom wordt gericht getraind om de resterende fouten van de vorige te verkleinen. Het resultaat zijn zeer nauwkeurige modellen voor tabeldata, bijvoorbeeld voor kredietrisico, omzetvoorspellingen of de kans op klantenverloop. Bekende implementaties zijn XGBoost, LightGBM en CatBoost; zorgvuldige afstemming is nodig om overfitting te voorkomen.

Onderwerpen

Machine learning
Ensemblemethode
Tabeldata

KI.ordo uitproberen

Agents, workflows en sjablonen in één werkruimte – gratis demo van 24 uur.

Demo starten

← Alle begrippen

Verwante begrippen

XGBoost

XGBoost (Extreme Gradient Boosting) is een open-sourcebibliotheek die gradient boosting met beslisbomen bijzonder efficiënt implementeert. Veel kleine bomen worden na elkaar getraind, waarbij elke boom de fouten van de vorige corrigeert, terwijl regularisatie helpt overfitting te voorkomen. XGBoost geldt als een beproefde keuze voor tabelgegevens, bijvoorbeeld bij kredietrisicoscores, het voorspellen van klantverloop of omzetprognoses.

Machine learning
Boosting
+1

LightGBM

LightGBM is een open-sourcebibliotheek voor gradient boosting met beslisbomen, oorspronkelijk ontwikkeld door Microsoft. Ze is ontworpen voor snelheid en laag geheugengebruik, onder meer door histogramgebaseerde training en bomen die bladgewijs groeien bij het meest veelbelovende blad. LightGBM is vooral geschikt voor grote tabeldatasets, bijvoorbeeld voor omzetvoorspellingen, voorspelling van klantenverloop of fraudedetectie, en wordt vaak met XGBoost vergeleken.

Gradient boosting
Tabeldata
+1

Boosting

Boosting is een ensemblemethode in machine learning waarbij veel eenvoudige modellen na elkaar worden getraind; elk nieuw model richt zich op de gevallen die zijn voorgangers verkeerd hadden. Samen vormen ze een veel nauwkeuriger totaalmodel. Bekende varianten zijn AdaBoost en gradient boosting, met bibliotheken zoals XGBoost of LightGBM. Boosting is bijzonder sterk bij tabeldata, bijvoorbeeld voor prognoses van kredietrisico, omzet of klantverloop.

Ensemblemethoden
Machine learning
+1

Beslisboom

Een beslisboom is een model dat een beslissing weergeeft als een reeks eenvoudige ja/nee-vragen: elke tak toetst één kenmerk en elk blad geeft een uitkomst. Bij machine learning worden zulke bomen automatisch uit data geleerd en gebruikt voor classificatie of voorspelling. Hun grote kracht is transparantie – ze laten bijvoorbeeld zien waarom een kredietaanvraag is gemarkeerd op basis van inkomen, looptijd en betalingsverleden.

Machine learning
Inschatting
+1