Unakrsna validacija metoda je provjere koliko dobro model generalizira na nove, neviđene podatke. Kod k-struke unakrsne validacije podaci se dijele na k dijelova; model se trenira k puta na k−1 dijelova i svaki put testira na preostalom, nakon čega se rezultati usrednjuju. To pomaže otkriti pretreniranost te pošteno usporediti modele ili postavke, osobito kada je podataka malo.
Agenti, tijekovi rada i predlošci u jednom radnom prostoru – besplatna demo verzija na 24 sata.
Pokrenite demoPretreniranost (overfitting) nastaje kada model nauči napamet podatke za učenje, uključujući slučajne osobitosti i šum, umjesto da obuhvati općenito važeće uzorke. Tada se čini vrlo točnim na poznatim podacima, ali loše radi na novima. Veliki razmak između pogreške na podacima za učenje i na testnim podacima tipičan je znak. Protumjere su više ili raznolikijih podataka, jednostavniji modeli, regularizacija, dropout i unakrsna validacija.
Pogreška generalizacije mjeri koliko UI model griješi na novim, prethodno neviđenim podacima – za razliku od pogreške na podacima za treniranje. Velik jaz između to dvoje ukazuje na pretreniranost: model je zapamtio primjere umjesto da nauči opće obrasce. Procjenjuje se pomoću izdvojenih testnih podataka ili unakrsne validacije. To je pokazatelj koji stvarno računa, jer se u praksi model gotovo isključivo susreće s novim slučajevima.
Hiperparametri su postavke određene prije treniranja modela, poput stope učenja, broja slojeva ili jačine regularizacije. Optimizacija hiperparametara sustavno traži kombinaciju koja najbolje radi na podacima za validaciju, primjerice pretraživanjem po rešetki, nasumičnim pretraživanjem ili Bayesovom optimizacijom. Dobro odabrane vrijednosti poboljšavaju točnost i smanjuju pretreniranost ili podtreniranost, ali pretraga troši računalno vrijeme.
Podaci za učenje su primjeri iz kojih UI model uči uzorke: velike zbirke tekstova za jezične modele, označene slike za modele slika. Njihova kvaliteta, raznolikost i aktualnost uvelike određuju koliko će model biti pouzdan i pošten te koliko će njegovo znanje biti ažurno. Organizacijama je važno i koristi li pružatelj podatke klijenata koje unesu za daljnje treniranje.
