Fogalomtár

gradiensnövelés

Mi a(z) gradiensnövelés?

A gradiensnövelés (gradient boosting) olyan gépi tanulási technika, amely sok egyszerű modellt – általában kis döntési fákat – kapcsol egymás után. Minden új fát kifejezetten arra tanítanak, hogy csökkentse az előzők megmaradt hibáit. Az eredmény rendkívül pontos modell táblázatos adatokra, például hitelkockázathoz, értékesítési előrejelzésekhez vagy az ügyfélelvándorlás valószínűségéhez. Ismert megvalósításai az XGBoost, a LightGBM és a CatBoost; a túlillesztés elkerüléséhez gondos hangolás szükséges.

Témák

Gépi tanulás
együttes módszer
Táblázatos adatok

Próbálja ki a KI.ordót

Ügynökök, munkafolyamatok és sablonok egyetlen munkaterületen – ingyenes, 24 órás demó.

Demó indítása

← Minden fogalom

Kapcsolódó fogalmak

XGBoost

Az XGBoost (Extreme Gradient Boosting) nyílt forráskódú könyvtár, amely a döntési fákkal végzett gradiensnövelést (gradient boosting) különösen hatékonyan valósítja meg. Sok kis fát tanítanak egymás után, mindegyik kijavítja az előzők hibáit, miközben a regularizáció segít megelőzni a túlillesztést. Az XGBoost bevált választásnak számít táblázatos adatokhoz, például hitelkockázat-pontozásban, lemorzsolódás-előrejelzésben vagy értékesítési előrejelzésben.

Gépi tanulás
Boosting
+1

LightGBM

A LightGBM egy nyílt forráskódú könyvtár döntési fákkal végzett gradiensnöveléshez (gradient boosting), amelyet eredetileg a Microsoft fejlesztett. A sebességre és az alacsony memóriahasználatra tervezték, többek között hisztogramalapú tanítással és olyan fákkal, amelyek levelenként, a legígéretesebb levélnél nőnek. A LightGBM különösen alkalmas nagy táblázatos adathalmazokra, például értékesítési előrejelzésekhez, ügyfélelvándorlás-előrejelzéshez vagy csalásfelderítéshez, és gyakran hasonlítják az XGBoosthoz.

gradiensnövelés
Táblázatos adatok
+1

Boosting

A boosting a gépi tanulás olyan együttes módszere, amelyben sok egyszerű modellt tanítanak egymás után, és minden új modell azokra az esetekre összpontosít, amelyeket elődei elhibáztak. Együtt egy sokkal pontosabb összesített modellt alkotnak. Ismert változatai az AdaBoost és a gradiens boosting, olyan könyvtárakkal, mint az XGBoost vagy a LightGBM. A boosting különösen táblázatos adatokon erős, például hitelkockázati, értékesítési vagy ügyfélelvándorlási előrejelzéseknél.

Együttes módszerek
Gépi tanulás
+1

Döntési fa

A döntési fa olyan modell, amely a döntést egyszerű igen/nem kérdések sorozataként ábrázolja: minden ág egy jellemzőt vizsgál, és minden levél egy kimenetet ad. A gépi tanulásban az ilyen fákat az adatokból automatikusan tanulják meg, és osztályozásra vagy előrejelzésre használják. Fő erősségük az átláthatóság – például megmutatják, miért jelölt meg a rendszer egy hitelkérelmet a jövedelem, a futamidő és a fizetési előzmények alapján.

Gépi tanulás
Besorolás
+1