Juhumetsa regressioon ennustab arvväärtusi, kombineerides paljusid otsustuspuid. Iga puud treenitakse andmete juhuvalimil ja tunnuste juhuslikul valikul; tulemus on kõigi puude ennustuste keskmine. See muudab meetodi töökindlamaks ja vähem ülesobitamisele kalduvaks kui üksik puu. Seda kasutatakse näiteks müügiprognoosideks, hinnahinnanguteks või energiavajaduse ennustamiseks – sageli tugeva lähtepunktina tabeliandmete jaoks.
Otsustuspuu on mudel, mis kujutab otsust lihtsate jah/ei-küsimuste jadana: iga haru kontrollib ühte tunnust ja iga leht annab tulemuse. Masinõppes õpitakse sellised puud andmetest automaatselt ja neid kasutatakse klassifitseerimiseks või prognoosimiseks. Nende peamine tugevus on läbipaistvus – näiteks näitavad need, miks laenutaotlus sissetuleku, tähtaja ja maksete ajaloo põhjal märgiti.
Bagging (lühend ingliskeelsest väljendist bootstrap aggregating) on masinõppe ansamblimeetod: paljusid mudeleid treenitakse treeningandmete juhuslikult valitud valimitel ja nende ennustused keskmistatakse või ühendatakse häälteenamusega. See muudab tulemused stabiilsemaks ja vähendab ülesobitamist. Tuntuim näide on juhuslik mets, mis ühendab palju otsustuspuid – näiteks klientide lahkumise või hindade ennustamiseks.
Gradientvõimendus (gradient boosting) on masinõppe võte, mis ühendab paljusid lihtsaid mudeleid – tavaliselt väikseid otsustuspuid – üksteise järel. Iga uut puud treenitakse spetsiaalselt eelmiste järelejäänud vigade vähendamiseks. Tulemuseks on tabelandmete jaoks väga täpsed mudelid, näiteks krediidiriski, müügiprognooside või klientide lahkumise tõenäosuse hindamiseks. Tuntud teostused on XGBoost, LightGBM ja CatBoost; ülesobitamise vältimiseks on vaja hoolikat häälestamist.
Lineaarne regressioon on statistiline meetod, mis kirjeldab sihtmuutuja ja ühe või mitme ennustaja vahelist seost sirge või tasandi abil. Koefitsiendid valitakse tavaliselt nii, et hälvete ruutude summa oleks minimaalne. Meetod on lihtsasti mõistetav ja tõlgendatav: näiteks saab hinnata, kui palju tulu kasvab, kui reklaamieelarvet suurendada 1000 € võrra. Mittelineaarsete seoste puhul jõuab see piirini.
