Koneoppimisessa oppimiskäyrä on kaavio, joka näyttää mallin suorituskyvyn tai virheen koulutusajan tai koulutusdatan määrän funktiona, yleensä erikseen koulutus- ja validointidatalle. Sen muoto paljastaa, onko malli ali- vai ylisovitettu ja auttaisiko lisädata todennäköisesti. Jos validointivirhe esimerkiksi pysyy selvästi koulutusvirhettä korkeammalla, se viittaa ylisovittamiseen. Arkikielessä termi kuvaa myös sitä, kuinka nopeasti ihmiset oppivat uuden teknologian.
Agentit, työnkulut ja mallit yhdessä työtilassa – maksuton 24 tunnin demo.
Aloita demoKoneoppimisessa konvergenssi tarkoittaa, että koulutusmenettely lähestyy vakaata tilaa: tappio pienenee tuskin enää ja mallin parametrit muuttuvat vain vähän. Se, konvergoituuko malli ja kuinka nopeasti, riippuu tekijöistä, kuten oppimisnopeudesta, datan laadusta ja mallin arkkitehtuurista. Jos oppimisnopeus on liian suuri, tappio vaihtelee holtittomasti; jos liian pieni, koulutus kestää tarpeettoman kauan. Konvergenssi ei takaa hyvää mallia, sillä se voi silti olla ylisovitettu.
Ylisovittuminen (overfitting) tarkoittaa, että malli oppii opetusdatan ulkoa, satunnaisine erikoisuuksineen ja kohinoineen, sen sijaan että se oppisi yleisesti päteviä säännönmukaisuuksia. Silloin se vaikuttaa erittäin tarkalta tutussa datassa mutta toimii huonosti uudessa datassa. Suuri ero opetus- ja testivirheen välillä on tyypillinen merkki. Torjuntakeinoja ovat enemmän tai monipuolisempi data, yksinkertaisemmat mallit, regularisointi, dropout ja ristiinvalidointi.
Alisovittuminen (underfitting) tapahtuu, kun malli on liian yksinkertainen tavoittamaan datan riippuvuuksia. Silloin se tekee paljon virheitä sekä opetusdatassa että uudessa datassa, esimerkiksi kun suoralla yritetään kuvata selvästi kaareutuvaa kuviota. Keinoja ovat tehokkaampi malli, informatiivisemmat piirteet, pidempi opetus tai vähäisempi regularisointi; päinvastainen ongelma on ylisovittuminen.
Opetusvirhe ilmaisee, kuinka paljon mallin ennusteet poikkeavat oikeista arvoista juuri siinä datassa, jolla se on opetettu. Yksinään se kertoo vähän: tärkeää on vertailu uuden datan yleistymisvirheeseen. Korkea opetusvirhe viittaa alisovittumiseen; hyvin matala opetusvirhe yhdistettynä korkeaan testidatan virheeseen viittaa yleensä ylisovittumiseen.
