Bagging (prescurtare de la bootstrap aggregating) este o metodă de ansamblu din învățarea automată: numeroase modele sunt antrenate pe eșantioane extrase aleatoriu din datele de antrenare, iar predicțiile lor sunt mediate sau combinate prin vot majoritar. Acest lucru face rezultatele mai stabile și reduce supraajustarea. Cel mai cunoscut exemplu este random forest, care combină numeroși arbori de decizie – de exemplu pentru a prognoza pierderea clienților sau prețurile.
Agenți, fluxuri și șabloane într-un singur spațiu de lucru – demo gratuit de 24 de ore.
Porniți demo-ulRegresia cu păduri aleatorii prezice valori numerice combinând mulți arbori de decizie. Fiecare arbore este antrenat pe un eșantion aleatoriu al datelor și pe o selecție aleatorie de caracteristici; rezultatul este media predicțiilor tuturor arborilor. Metoda devine astfel mai robustă și mai puțin predispusă la supraajustare decât un singur arbore. Se folosește, de exemplu, pentru prognoze de vânzări, estimări de prețuri sau cererea de energie – adesea ca punct de pornire solid pentru date tabelare.
Boosting este o metodă de ansamblu din învățarea automată în care numeroase modele simple sunt antrenate unul după altul, fiecare model nou concentrându-se asupra cazurilor pe care predecesorii săi le-au greșit. Împreună, ele formează un model global mult mai precis. Variante cunoscute sunt AdaBoost și gradient boosting, cu biblioteci precum XGBoost sau LightGBM. Boostingul este deosebit de performant pe date tabelare, de exemplu pentru prognozele privind riscul de credit, vânzările sau pierderea clienților.
Un arbore de decizie este un model care reprezintă o decizie ca o succesiune de întrebări simple cu răspuns da/nu: fiecare ramură testează o caracteristică, iar fiecare frunză indică un rezultat. În machine learning, astfel de arbori sunt învățați automat din date și folosiți pentru clasificare sau prognoză. Principalul lor punct forte este transparența – de exemplu, arată de ce o cerere de credit a fost semnalată pe baza venitului, a duratei și a istoricului de plăți.
Supraajustarea (overfitting) apare atunci când un model memorează datele de antrenare, inclusiv particularitățile întâmplătoare și zgomotul, în loc să surprindă tipare general valabile. Pare apoi foarte precis pe datele cunoscute, dar are performanțe slabe pe date noi. O diferență mare între eroarea de antrenare și cea de testare este un semn tipic. Contramăsurile includ mai multe date sau date mai variate, modele mai simple, regularizare, dropout și validare încrucișată.
