Bagging (zkratka z bootstrap aggregating) je ansámblová metoda strojového učení: mnoho modelů se natrénuje na náhodně vybraných vzorcích trénovacích dat a jejich predikce se zprůměrují nebo zkombinují většinovým hlasováním. Výsledky jsou díky tomu stabilnější a snižuje se přeučení. Nejznámějším příkladem je náhodný les (random forest), který kombinuje mnoho rozhodovacích stromů – například pro predikci odchodu zákazníků nebo cen.
Agenti, postupy a šablony v jednom pracovním prostoru – 24hodinové demo zdarma.
Spustit demoRegrese náhodným lesem předpovídá číselné hodnoty kombinací mnoha rozhodovacích stromů. Každý strom se trénuje na náhodném vzorku dat a náhodném výběru příznaků; výsledkem je průměr předpovědí všech stromů. Metoda je díky tomu robustnější a méně náchylná k přeučení než jediný strom. Používá se například pro předpovědi prodeje, odhady cen nebo poptávky po energii – často jako solidní výchozí bod pro tabulková data.
Boosting je ansámblová metoda strojového učení, při níž se postupně trénuje mnoho jednoduchých modelů, přičemž každý nový model se zaměřuje na případy, ve kterých se jeho předchůdci mýlili. Společně tvoří mnohem přesnější celkový model. Známými variantami jsou AdaBoost a gradient boosting s knihovnami jako XGBoost nebo LightGBM. Boosting je obzvlášť silný u tabulkových dat, například u úvěrového rizika, prognóz prodeje nebo odchodu zákazníků.
Rozhodovací strom je model, který znázorňuje rozhodnutí jako posloupnost jednoduchých otázek ano/ne: každá větev testuje jeden rys a každý list udává výsledek. Ve strojovém učení se takové stromy učí automaticky z dat a používají se ke klasifikaci nebo predikci. Jejich hlavní předností je transparentnost – například ukazují, proč byla žádost o úvěr označena na základě příjmu, délky splácení a platební historie.
K přeučení (overfitting) dochází, když si model zapamatuje trénovací data včetně náhodných zvláštností a šumu, místo aby zachytil obecně platné vzory. Pak působí na známých datech velmi přesně, ale na nových datech si vede špatně. Typickým znakem je velký rozdíl mezi chybou na trénovacích a testovacích datech. Pomáhá více nebo rozmanitější dat, jednodušší modely, regularizace, dropout a křížová validace.
