Pojmovnik

Optimizacija hiperparametara

Što je Optimizacija hiperparametara?

Hiperparametri su postavke određene prije treniranja modela, poput stope učenja, broja slojeva ili jačine regularizacije. Optimizacija hiperparametara sustavno traži kombinaciju koja najbolje radi na podacima za validaciju, primjerice pretraživanjem po rešetki, nasumičnim pretraživanjem ili Bayesovom optimizacijom. Dobro odabrane vrijednosti poboljšavaju točnost i smanjuju pretreniranost ili podtreniranost, ali pretraga troši računalno vrijeme.

Kako KI.ordo pomaže

KI.ordo ne trenira modele; srodna kontrola je klizač „temperature” agenata, postavka u vrijeme izvođenja koja određuje koliko su odgovori raznoliki.

Saznajte više

Teme

Training
Kvaliteta modela
Tuning

Isprobajte KI.ordo

Agenti, tijekovi rada i predlošci u jednom radnom prostoru – besplatna demo verzija na 24 sata.

Pokrenite demo

← Svi pojmovi

Srodni pojmovi

Overfitting

Pretreniranost (overfitting) nastaje kada model nauči napamet podatke za učenje, uključujući slučajne osobitosti i šum, umjesto da obuhvati općenito važeće uzorke. Tada se čini vrlo točnim na poznatim podacima, ali loše radi na novima. Veliki razmak između pogreške na podacima za učenje i na testnim podacima tipičan je znak. Protumjere su više ili raznolikijih podataka, jednostavniji modeli, regularizacija, dropout i unakrsna validacija.

kvaliteta modela
treniranje
+1

Unakrsna validacija

Unakrsna validacija metoda je provjere koliko dobro model generalizira na nove, neviđene podatke. Kod k-struke unakrsne validacije podaci se dijele na k dijelova; model se trenira k puta na k−1 dijelova i svaki put testira na preostalom, nakon čega se rezultati usrednjuju. To pomaže otkriti pretreniranost te pošteno usporediti modele ili postavke, osobito kada je podataka malo.

Vrednovanje modela
Validacija
+1

Strojno učenje

Strojno učenje je grana umjetne inteligencije u kojoj računala iz podataka izvode obrasce umjesto da im se svako pravilo izričito programira. Ovisno o zadatku, modeli uče iz označenih primjera (nadzirano), iz neoznačenih podataka (nenadzirano) ili putem nagrada (podržano). Primjene sežu od filtara za spam i prognoza potražnje do preporuka proizvoda. Kvaliteta uvelike ovisi o količini i kvaliteti podataka za treniranje.

osnove
UI
+1

Regularizacija

Regularizacija obuhvaća tehnike koje tijekom treniranja sprječavaju model da se previše prilagodi podacima za učenje (pretreniranost). Primjeri su kažnjavanje velikih težina (L1 ili L2 regularizacija), nasumično isključivanje neurona (dropout) ili zaustavljanje treniranja u pravom trenutku (rano zaustavljanje). Cilj je jednostavniji model koji pouzdanije radi na novim, nevidljivim podacima, čak i ako na podacima za učenje postiže nešto slabiji rezultat.

treniranje
pretreniranost
+1