Bagging (skraćeno od bootstrap aggregating) ansambl je metoda strojnog učenja: mnogo modela uči se na nasumično odabranim uzorcima podataka za učenje, a njihova se predviđanja usrednjavaju ili kombiniraju većinskim glasanjem. Time rezultati postaju stabilniji, a prenaučenost se smanjuje. Najpoznatiji je primjer slučajna šuma (random forest), koja kombinira mnogo stabala odlučivanja – primjerice za predviđanje odljeva kupaca ili cijena.
Agenti, tijekovi rada i predlošci u jednom radnom prostoru – besplatna demo verzija na 24 sata.
Pokrenite demoRegresija slučajnom šumom predviđa numeričke vrijednosti kombiniranjem mnogih stabala odlučivanja. Svako stablo trenira se na slučajnom uzorku podataka i slučajnom izboru značajki; rezultat je prosjek predviđanja svih stabala. Zbog toga je metoda robusnija i manje sklona pretreniranosti od pojedinačnog stabla. Koristi se, primjerice, za prognoze prodaje, procjene cijena ili potrošnju energije – često kao solidna polazna točka za tablične podatke.
Boosting je ansambl metoda strojnog učenja u kojoj se mnogo jednostavnih modela uči jedan za drugim, pri čemu se svaki novi model usredotočuje na slučajeve u kojima su prethodnici pogriješili. Zajedno čine znatno točniji ukupni model. Poznate su varijante AdaBoost i gradient boosting, s bibliotekama kao što su XGBoost ili LightGBM. Boosting je osobito snažan na tabličnim podacima, primjerice za prognoze kreditnog rizika, prodaje ili odljeva kupaca.
Stablo odlučivanja je model koji odluku prikazuje kao niz jednostavnih pitanja s odgovorom da/ne: svaka grana provjerava jedno obilježje, a svaki list daje ishod. U strojnom učenju takva se stabla automatski uče iz podataka i koriste za klasifikaciju ili predviđanje. Glavna im je prednost transparentnost – primjerice, pokazuju zašto je zahtjev za kredit označen na temelju prihoda, roka i povijesti plaćanja.
Pretreniranost (overfitting) nastaje kada model nauči napamet podatke za učenje, uključujući slučajne osobitosti i šum, umjesto da obuhvati općenito važeće uzorke. Tada se čini vrlo točnim na poznatim podacima, ali loše radi na novima. Veliki razmak između pogreške na podacima za učenje i na testnim podacima tipičan je znak. Protumjere su više ili raznolikijih podataka, jednostavniji modeli, regularizacija, dropout i unakrsna validacija.
