Glossario

Gradient boosting

Che cos’è Gradient boosting?

Il gradient boosting è una tecnica di machine learning che combina in sequenza molti modelli semplici, di solito piccoli alberi decisionali. Ogni nuovo albero viene addestrato per ridurre gli errori residui dei precedenti. Ne derivano modelli molto precisi per dati tabellari, ad esempio per rischio di credito, previsioni di vendita o probabilità di abbandono. Implementazioni note sono XGBoost, LightGBM e CatBoost; serve una taratura attenta per evitare l’overfitting.

Temi

Machine learning
Metodo ensemble
Dati tabellari

Prova KI.ordo

Agenti, flussi e modelli in un’unica area di lavoro – demo gratuita di 24 ore.

Avvia demo

← Tutti i termini

Termini correlati

XGBoost

XGBoost (Extreme Gradient Boosting) è una libreria open source che implementa in modo particolarmente efficiente il gradient boosting con alberi decisionali. Molti piccoli alberi vengono addestrati uno dopo l'altro, ciascuno correggendo gli errori dei precedenti, mentre la regolarizzazione aiuta a prevenire l'overfitting. XGBoost è considerato una scelta collaudata per i dati tabellari, ad esempio per la valutazione del rischio di credito, la previsione dell'abbandono dei clienti o delle vendite.

Machine learning
Boosting
+1

LightGBM

LightGBM è una libreria open source per il gradient boosting con alberi decisionali, sviluppata originariamente da Microsoft. È progettata per velocità e basso consumo di memoria, tra l'altro grazie all'addestramento basato su istogrammi e ad alberi che crescono per foglie, espandendo quella più promettente. È adatta soprattutto a grandi dataset tabellari, ad esempio previsioni di vendita, abbandono dei clienti o rilevamento di frodi, e viene spesso confrontata con XGBoost.

Gradient boosting
Dati tabellari
+1

Boosting

Il boosting è un metodo d'insieme del machine learning in cui molti modelli semplici vengono addestrati uno dopo l'altro: ogni nuovo modello si concentra sui casi in cui i precedenti hanno sbagliato. Insieme formano un modello complessivo molto più preciso. Varianti note sono AdaBoost e il gradient boosting, con librerie come XGBoost o LightGBM. Il boosting rende particolarmente bene con dati tabellari, ad esempio per previsioni di rischio di credito, vendite o abbandono dei clienti.

Metodi d'insieme
Machine learning
+1

Albero decisionale

Un albero decisionale è un modello che rappresenta una decisione come una sequenza di semplici domande sì/no: ogni ramo verifica una caratteristica, ogni foglia fornisce un risultato. Nel machine learning questi alberi vengono appresi automaticamente dai dati e usati per classificazioni o previsioni. Il loro punto di forza è la leggibilità, ad esempio per capire perché una richiesta di credito è stata segnalata in base a reddito, durata e storico dei pagamenti.

Machine learning
Classificazione
+1