Sõnastik

Hüperparameetrite optimeerimine

Mis on Hüperparameetrite optimeerimine?

Hüperparameetrid on seaded, mis fikseeritakse enne mudeli treenimist, näiteks õppimiskiirus, kihtide arv või regulariseerimise tugevus. Hüperparameetrite optimeerimine otsib süstemaatiliselt kombinatsiooni, mis toimib valideerimisandmetel kõige paremini, näiteks ruudustikotsingu, juhuotsingu või Bayesi optimeerimise abil. Hästi valitud väärtused parandavad täpsust ning vähendavad üle- või alasobitamist, kuid otsing nõuab arvutusaega.

Kuidas KI.ordo aitab

KI.ordo ei treeni mudeleid; sellega seotud juhtelement on agentide „temperatuuri“ liugur, käitusaegne seadistus, mis määrab, kui mitmekesised vastused on.

Loe lähemalt

Teemad

Training
Mudeli kvaliteet
Tuning

Proovi KI.ordot

Agendid, töövood ja mallid ühes tööruumis – tasuta 24-tunnine demo.

Alusta demot

← Kõik terminid

Seotud terminid

Overfitting

Ülesobitamine (overfitting) tekib siis, kui mudel jätab treeningandmed, sealhulgas juhuslikud omapärad ja müra, pähe, selle asemel et tabada üldkehtivaid mustreid. Siis tundub see tuttavate andmete puhul väga täpne, kuid toimib uute andmete puhul halvasti. Tüüpiline märk on suur vahe treening- ja testivea vahel. Vastumeetmed on rohkem või mitmekesisemad andmed, lihtsamad mudelid, regulariseerimine, dropout ja ristvalideerimine.

mudeli kvaliteet
treenimine
+1

Ristvalideerimine

Ristvalideerimine on meetod, millega kontrollitakse, kui hästi mudel üldistub uutele, nägemata andmetele. K-osaga ristvalideerimisel jagatakse andmed k osaks; mudelit treenitakse k korda k−1 osal ja testitakse iga kord ülejäänud osal, seejärel tulemused keskmistatakse. See aitab avastada ülesobitamist ja võrrelda mudeleid või seadeid ausalt, eriti kui andmeid on vähe.

Mudeli hindamine
Valideerimine
+1

Masinõpe

Masinõpe on tehisintellekti haru, kus arvutid tuletavad andmetest mustreid, selle asemel et iga reegel oleks selgesõnaliselt programmeeritud. Olenevalt ülesandest õpivad mudelid märgendatud näidetest (juhendatud), märgendamata andmetest (juhendamata) või preemiate kaudu (tugevdusõpe). Rakendused ulatuvad rämpsposti filtritest ja nõudluse prognoosidest tootesoovitusteni. Kvaliteet sõltub suuresti treeningandmete hulgast ja kvaliteedist.

alused
TI
+1

Regulariseerimine

Regulariseerimine hõlmab tehnikaid, mis takistavad mudelil treeningu ajal oma treeningandmetega liiga tihedalt sobituda (ülesobitamine). Näited on suurte kaalude karistamine (L1- või L2-regulariseerimine), neuronite juhuslik väljalülitamine (dropout) või treeningu õigel hetkel peatamine (early stopping). Eesmärk on lihtsam mudel, mis toimib uute, nägemata andmete puhul töökindlamalt, isegi kui treeningandmetel on tulemus veidi madalam.

treenimine
ülesobitamine
+1