A bagging (a bootstrap aggregating rövidítése) a gépi tanulás egyik együttes (ensemble) módszere: sok modellt tanítanak a tanítóadatok véletlenszerűen kiválasztott mintáin, és előrejelzéseiket átlagolják vagy többségi szavazással egyesítik. Ez stabilabbá teszi az eredményeket, és csökkenti a túlillesztést. A legismertebb példa a véletlen erdő (random forest), amely sok döntési fát egyesít – például az ügyfélelvándorlás vagy az árak előrejelzéséhez.
Ügynökök, munkafolyamatok és sablonok egyetlen munkaterületen – ingyenes, 24 órás demó.
Demó indításaA véletlen erdő regresszió számértékeket jelez előre úgy, hogy sok döntési fát kombinál. Minden fát az adatok egy véletlen mintáján és a jellemzők véletlen kiválasztásán tanítanak; az eredmény az összes fa előrejelzésének átlaga. Ez a módszert robusztusabbá és az egyetlen fánál kevésbé túlillesztésre hajlamossá teszi. Használják például értékesítési előrejelzésekhez, árbecslésekhez vagy energiaigény-becsléshez – táblázatos adatoknál gyakran megbízható kiindulópontként.
A boosting a gépi tanulás olyan együttes módszere, amelyben sok egyszerű modellt tanítanak egymás után, és minden új modell azokra az esetekre összpontosít, amelyeket elődei elhibáztak. Együtt egy sokkal pontosabb összesített modellt alkotnak. Ismert változatai az AdaBoost és a gradiens boosting, olyan könyvtárakkal, mint az XGBoost vagy a LightGBM. A boosting különösen táblázatos adatokon erős, például hitelkockázati, értékesítési vagy ügyfélelvándorlási előrejelzéseknél.
A döntési fa olyan modell, amely a döntést egyszerű igen/nem kérdések sorozataként ábrázolja: minden ág egy jellemzőt vizsgál, és minden levél egy kimenetet ad. A gépi tanulásban az ilyen fákat az adatokból automatikusan tanulják meg, és osztályozásra vagy előrejelzésre használják. Fő erősségük az átláthatóság – például megmutatják, miért jelölt meg a rendszer egy hitelkérelmet a jövedelem, a futamidő és a fizetési előzmények alapján.
A túlillesztés (overfitting) akkor lép fel, amikor a modell megjegyzi a tanítóadatokat – a véletlen sajátosságokkal és a zajjal együtt –, ahelyett hogy általánosan érvényes mintákat ragadna meg. Ilyenkor az ismert adatokon nagyon pontosnak tűnik, az új adatokon viszont gyengén teljesít. A tanítási és a tesztelési hiba közötti nagy különbség tipikus jel. Ellenszerek: több vagy változatosabb adat, egyszerűbb modellek, regularizáció, dropout és keresztvalidáció.
