XGBoost (Extreme Gradient Boosting) este o bibliotecă open-source care implementează gradient boosting cu arbori de decizie în mod deosebit de eficient. Mulți arbori mici sunt antrenați unul după altul, fiecare corectând erorile celor dinainte, în timp ce regularizarea ajută la prevenirea supraajustării. XGBoost este considerat o alegere dovedită pentru date tabelare, de exemplu în scoringul riscului de credit, prezicerea renunțării clienților (churn) sau prognoza vânzărilor.
Agenți, fluxuri și șabloane într-un singur spațiu de lucru – demo gratuit de 24 de ore.
Porniți demo-ulGradient boosting este o tehnică de machine learning care combină, unul după altul, multe modele simple – de obicei arbori de decizie mici. Fiecare arbore nou este antrenat special pentru a reduce erorile rămase ale celor anteriori. Rezultatul sunt modele foarte precise pentru date tabelare, de exemplu pentru riscul de credit, prognoze de vânzări sau probabilitatea pierderii clienților. Implementări cunoscute sunt XGBoost, LightGBM și CatBoost; este nevoie de o reglare atentă pentru a evita supraînvățarea.
LightGBM este o bibliotecă open-source pentru gradient boosting cu arbori de decizie, dezvoltată inițial de Microsoft. Este concepută pentru viteză și consum redus de memorie, printre altele prin antrenare bazată pe histograme și prin arbori care cresc frunză cu frunză, la cea mai promițătoare frunză. LightGBM este potrivită în special pentru seturi mari de date tabelare, de exemplu prognoze de vânzări, predicția pierderii clienților sau detectarea fraudelor, și este adesea comparată cu XGBoost.
Boosting este o metodă de ansamblu din învățarea automată în care numeroase modele simple sunt antrenate unul după altul, fiecare model nou concentrându-se asupra cazurilor pe care predecesorii săi le-au greșit. Împreună, ele formează un model global mult mai precis. Variante cunoscute sunt AdaBoost și gradient boosting, cu biblioteci precum XGBoost sau LightGBM. Boostingul este deosebit de performant pe date tabelare, de exemplu pentru prognozele privind riscul de credit, vânzările sau pierderea clienților.
Regresia cu păduri aleatorii prezice valori numerice combinând mulți arbori de decizie. Fiecare arbore este antrenat pe un eșantion aleatoriu al datelor și pe o selecție aleatorie de caracteristici; rezultatul este media predicțiilor tuturor arborilor. Metoda devine astfel mai robustă și mai puțin predispusă la supraajustare decât un singur arbore. Se folosește, de exemplu, pentru prognoze de vânzări, estimări de prețuri sau cererea de energie – adesea ca punct de pornire solid pentru date tabelare.
