Glossario

XGBoost

Che cos’è XGBoost?

XGBoost (Extreme Gradient Boosting) è una libreria open source che implementa in modo particolarmente efficiente il gradient boosting con alberi decisionali. Molti piccoli alberi vengono addestrati uno dopo l'altro, ciascuno correggendo gli errori dei precedenti, mentre la regolarizzazione aiuta a prevenire l'overfitting. XGBoost è considerato una scelta collaudata per i dati tabellari, ad esempio per la valutazione del rischio di credito, la previsione dell'abbandono dei clienti o delle vendite.

Temi

Machine learning
Boosting
Open source

Prova KI.ordo

Agenti, flussi e modelli in un’unica area di lavoro – demo gratuita di 24 ore.

Avvia demo

← Tutti i termini

Termini correlati

Gradient boosting

Il gradient boosting è una tecnica di machine learning che combina in sequenza molti modelli semplici, di solito piccoli alberi decisionali. Ogni nuovo albero viene addestrato per ridurre gli errori residui dei precedenti. Ne derivano modelli molto precisi per dati tabellari, ad esempio per rischio di credito, previsioni di vendita o probabilità di abbandono. Implementazioni note sono XGBoost, LightGBM e CatBoost; serve una taratura attenta per evitare l’overfitting.

Machine learning
Metodo ensemble
+1

LightGBM

LightGBM è una libreria open source per il gradient boosting con alberi decisionali, sviluppata originariamente da Microsoft. È progettata per velocità e basso consumo di memoria, tra l'altro grazie all'addestramento basato su istogrammi e ad alberi che crescono per foglie, espandendo quella più promettente. È adatta soprattutto a grandi dataset tabellari, ad esempio previsioni di vendita, abbandono dei clienti o rilevamento di frodi, e viene spesso confrontata con XGBoost.

Gradient boosting
Dati tabellari
+1

Boosting

Il boosting è un metodo d'insieme del machine learning in cui molti modelli semplici vengono addestrati uno dopo l'altro: ogni nuovo modello si concentra sui casi in cui i precedenti hanno sbagliato. Insieme formano un modello complessivo molto più preciso. Varianti note sono AdaBoost e il gradient boosting, con librerie come XGBoost o LightGBM. Il boosting rende particolarmente bene con dati tabellari, ad esempio per previsioni di rischio di credito, vendite o abbandono dei clienti.

Metodi d'insieme
Machine learning
+1

Regressione random forest

La regressione random forest prevede valori numerici combinando molti alberi decisionali. Ogni albero viene addestrato su un campione casuale dei dati e con una selezione casuale di variabili; il risultato è la media delle previsioni di tutti gli alberi. Così il metodo è più robusto e meno soggetto a overfitting di un singolo albero. Si usa ad esempio per previsioni di vendita, stime di prezzo o fabbisogno energetico, spesso come solido punto di partenza con dati tabellari.

regressione
metodo ensemble
+1