Gradijentni spust je optimizacijska metoda kojom se trenira većina UI modela. Mjeri se koliko je velika pogreška modela, izračunava u kojem smjeru treba mijenjati parametre da bi se smanjila, a zatim se u tom smjeru čini mali korak – iznova i iznova. Slično je planinaru u magli koji stalno ide nizbrdo kako bi stigao do doline. Veličina koraka (stopa učenja) određuje brzinu i stabilnost.
Agenti, tijekovi rada i predlošci u jednom radnom prostoru – besplatna demo verzija na 24 sata.
Pokrenite demoPovratna propagacija (backpropagation) standardna je metoda kojom neuronske mreže uče. Nakon svakog predviđanja mjeri se pogreška i širi unatrag kroz slojeve mreže, pokazujući koliko je svaka težina pridonijela pogrešci. Optimizacijska metoda kao što je gradijentni spust zatim postupno prilagođava težine. Bez povratne propagacije učenje današnjih jezičnih i slikovnih modela bilo bi praktički nemoguće.
U strojnom učenju konvergencija znači da se postupak treniranja približava stabilnom stanju: gubitak se gotovo više ne smanjuje, a parametri modela mijenjaju se tek minimalno. Hoće li model konvergirati i koliko brzo, ovisi o čimbenicima poput stope učenja, kvalitete podataka i arhitekture modela. Ako je stopa učenja previsoka, gubitak skače; ako je preniska, treniranje traje nepotrebno dugo. Konvergencija ne jamči dobar model, jer on i dalje može biti pretreniran.
Unakrsna entropija (cross-entropy) mjera je iz teorije informacija koja pokazuje koliko se predviđena distribucija vjerojatnosti razlikuje od stvarne. U strojnom učenju najčešća je funkcija gubitka za zadatke klasifikacije, kao i za jezične modele koji predviđaju sljedeći token. Posebno snažno kažnjava samouvjerena pogrešna predviđanja: dodjela 99 % pogrešnoj klasi daje mnogo veći gubitak od dodjele 60 %.
Hiperparametri su postavke određene prije treniranja modela, poput stope učenja, broja slojeva ili jačine regularizacije. Optimizacija hiperparametara sustavno traži kombinaciju koja najbolje radi na podacima za validaciju, primjerice pretraživanjem po rešetki, nasumičnim pretraživanjem ili Bayesovom optimizacijom. Dobro odabrane vrijednosti poboljšavaju točnost i smanjuju pretreniranost ili podtreniranost, ali pretraga troši računalno vrijeme.
