Bagging (skratka z bootstrap aggregating) je súborová metóda strojového učenia: mnoho modelov sa natrénuje na náhodne vybraných vzorkách trénovacích údajov a ich predpovede sa spriemerujú alebo spoja hlasovaním väčšiny. Výsledky sú tak stabilnejšie a znižuje sa preučenie. Najznámejším príkladom je náhodný les (random forest), ktorý spája mnoho rozhodovacích stromov – napríklad na predpoveď odchodu zákazníkov alebo cien.
Agenti, postupy a šablóny v jednom pracovnom priestore – bezplatné 24-hodinové demo.
Spustiť demoRegresia náhodným lesom predpovedá číselné hodnoty kombináciou mnohých rozhodovacích stromov. Každý strom sa trénuje na náhodnej vzorke dát a náhodnom výbere príznakov; výsledkom je priemer predpovedí všetkých stromov. Metóda je vďaka tomu robustnejšia a menej náchylná na preučenie než jediný strom. Používa sa napríklad na predpovede predaja, odhady cien alebo energetických potrieb – často ako solídny východiskový bod pre tabuľkové dáta.
Boosting je súborová metóda strojového učenia, pri ktorej sa mnoho jednoduchých modelov trénuje postupne a každý nový model sa zameriava na prípady, v ktorých sa jeho predchodcovia mýlili. Spolu tvoria oveľa presnejší celkový model. Známymi variantmi sú AdaBoost a gradient boosting s knižnicami ako XGBoost alebo LightGBM. Boosting je mimoriadne silný pri tabuľkových údajoch, napríklad pri predpovediach úverového rizika, predaja alebo odchodu zákazníkov.
Rozhodovací strom je model, ktorý znázorňuje rozhodnutie ako postupnosť jednoduchých otázok s odpoveďou áno/nie: každá vetva testuje jeden znak a každý list udáva výsledok. V strojovom učení sa takéto stromy učia automaticky z údajov a používajú sa na klasifikáciu alebo predpovede. Ich hlavnou silou je transparentnosť – napríklad ukazujú, prečo bola žiadosť o úver označená na základe príjmu, doby splácania a platobnej histórie.
Preučenie (overfitting) nastáva, keď si model zapamätá trénovacie dáta vrátane náhodných zvláštností a šumu, namiesto toho, aby zachytil všeobecne platné vzory. Na známych dátach potom pôsobí veľmi presne, no na nových dátach podáva slabý výkon. Typickým znakom je veľký rozdiel medzi chybou na trénovacích a testovacích dátach. Protiopatrenia zahŕňajú viac či rozmanitejšie dát, jednoduchšie modely, regularizáciu, dropout a krížovú validáciu.
