Glosář

gradient boosting

Co je gradient boosting?

Gradient boosting je technika strojového učení, která za sebou kombinuje mnoho jednoduchých modelů – obvykle malých rozhodovacích stromů. Každý nový strom se trénuje specificky tak, aby snižoval zbývající chyby předchozích. Výsledkem jsou vysoce přesné modely pro tabulková data, například pro úvěrové riziko, prognózy prodeje nebo pravděpodobnost odchodu zákazníka. Známými implementacemi jsou XGBoost, LightGBM a CatBoost; aby se předešlo přeučení, je třeba pečlivé ladění.

Témata

Strojové učení
ensemble metoda
Tabulková data

Vyzkoušet KI.ordo

Agenti, postupy a šablony v jednom pracovním prostoru – 24hodinové demo zdarma.

Spustit demo

← Všechny pojmy

Související pojmy

XGBoost

XGBoost (Extreme Gradient Boosting) je open-source knihovna, která zvlášť efektivně implementuje gradientní boosting s rozhodovacími stromy. Trénuje se po sobě mnoho malých stromů, z nichž každý opravuje chyby předchozích, zatímco regularizace pomáhá předcházet přeučení. XGBoost se považuje za osvědčenou volbu pro tabulková data, například při hodnocení úvěrového rizika, předpovídání odchodu zákazníků nebo předpovědích prodeje.

Strojové učení
Boosting
+1

LightGBM

LightGBM je open-source knihovna pro gradient boosting s rozhodovacími stromy, původně vyvinutá společností Microsoft. Je navržena pro rychlost a nízkou spotřebu paměti, mimo jiné díky trénování založenému na histogramech a stromům, které rostou po listech v nejslibnějším listu. LightGBM se hodí zejména pro velké tabulkové datové sady, například prognózy prodeje, predikci odchodu zákazníků nebo odhalování podvodů, a často se srovnává s XGBoost.

gradient boosting
Tabulková data
+1

Boosting

Boosting je ansámblová metoda strojového učení, při níž se postupně trénuje mnoho jednoduchých modelů, přičemž každý nový model se zaměřuje na případy, ve kterých se jeho předchůdci mýlili. Společně tvoří mnohem přesnější celkový model. Známými variantami jsou AdaBoost a gradient boosting s knihovnami jako XGBoost nebo LightGBM. Boosting je obzvlášť silný u tabulkových dat, například u úvěrového rizika, prognóz prodeje nebo odchodu zákazníků.

Ansámblové metody
Strojové učení
+1

Rozhodovací strom

Rozhodovací strom je model, který znázorňuje rozhodnutí jako posloupnost jednoduchých otázek ano/ne: každá větev testuje jeden rys a každý list udává výsledek. Ve strojovém učení se takové stromy učí automaticky z dat a používají se ke klasifikaci nebo predikci. Jejich hlavní předností je transparentnost – například ukazují, proč byla žádost o úvěr označena na základě příjmu, délky splácení a platební historie.

Strojové učení
Vyhodnocení
+1