Sanasto

Konvergenssi

Mikä on Konvergenssi?

Koneoppimisessa konvergenssi tarkoittaa, että koulutusmenettely lähestyy vakaata tilaa: tappio pienenee tuskin enää ja mallin parametrit muuttuvat vain vähän. Se, konvergoituuko malli ja kuinka nopeasti, riippuu tekijöistä, kuten oppimisnopeudesta, datan laadusta ja mallin arkkitehtuurista. Jos oppimisnopeus on liian suuri, tappio vaihtelee holtittomasti; jos liian pieni, koulutus kestää tarpeettoman kauan. Konvergenssi ei takaa hyvää mallia, sillä se voi silti olla ylisovitettu.

Aiheet

Training
optimointi
Koneoppiminen

Kokeile KI.ordoa

Agentit, työnkulut ja mallit yhdessä työtilassa – maksuton 24 tunnin demo.

Aloita demo

← Kaikki termit

Liittyvät termit

Gradienttimenetelmä

Gradienttimenetelmä (gradient descent) on optimointimenetelmä, jolla useimmat tekoälymallit koulutetaan. Mitataan, kuinka suuri mallin virhe on, lasketaan, mihin suuntaan parametreja on muutettava virheen pienentämiseksi, ja otetaan sitten pieni askel siihen suuntaan – yhä uudelleen. Se on kuin sumussa kulkeva vaeltaja, joka jatkaa alamäkeen päästäkseen laaksoon. Askelkoko (oppimisnopeus) määrää nopeuden ja vakauden.

optimointi
mallin koulutus
+1

Oppimiskäyrä

Koneoppimisessa oppimiskäyrä on kaavio, joka näyttää mallin suorituskyvyn tai virheen koulutusajan tai koulutusdatan määrän funktiona, yleensä erikseen koulutus- ja validointidatalle. Sen muoto paljastaa, onko malli ali- vai ylisovitettu ja auttaisiko lisädata todennäköisesti. Jos validointivirhe esimerkiksi pysyy selvästi koulutusvirhettä korkeammalla, se viittaa ylisovittamiseen. Arkikielessä termi kuvaa myös sitä, kuinka nopeasti ihmiset oppivat uuden teknologian.

Training
Mallin arviointi
+1

Opetusvirhe

Opetusvirhe ilmaisee, kuinka paljon mallin ennusteet poikkeavat oikeista arvoista juuri siinä datassa, jolla se on opetettu. Yksinään se kertoo vähän: tärkeää on vertailu uuden datan yleistymisvirheeseen. Korkea opetusvirhe viittaa alisovittumiseen; hyvin matala opetusvirhe yhdistettynä korkeaan testidatan virheeseen viittaa yleensä ylisovittumiseen.

Koneoppiminen
Arviointi
+1

Hyperparametrien optimointi

Hyperparametrit ovat asetuksia, jotka määritetään ennen mallin koulutusta, kuten oppimisnopeus, kerrosten määrä tai regularisoinnin voimakkuus. Hyperparametrien optimointi etsii järjestelmällisesti yhdistelmän, joka toimii parhaiten validointidatalla, esimerkiksi ruudukkohaulla, satunnaishaulla tai bayesilaisella optimoinnilla. Hyvin valitut arvot parantavat tarkkuutta ja vähentävät ylä- tai alisovittamista, mutta haku vie laskenta-aikaa.

Training
mallin laatu
+1