Yleistämisvirhe mittaa, kuinka paljon tekoälymalli erehtyy uudessa, aiemmin näkemättömässä datassa – toisin kuin sen virhe koulutusdatassa. Suuri ero näiden kahden välillä viittaa ylisovittamiseen: malli on opetellut esimerkit ulkoa sen sijaan, että olisi oppinut yleisiä kuvioita. Sitä arvioidaan erillisellä testidatalla tai ristiinvalidoinnilla. Se on luku, jolla todella on merkitystä, koska käytännössä malli kohtaa lähes pelkästään uusia tapauksia.
Agentit, työnkulut ja mallit yhdessä työtilassa – maksuton 24 tunnin demo.
Aloita demoYlisovittuminen (overfitting) tarkoittaa, että malli oppii opetusdatan ulkoa, satunnaisine erikoisuuksineen ja kohinoineen, sen sijaan että se oppisi yleisesti päteviä säännönmukaisuuksia. Silloin se vaikuttaa erittäin tarkalta tutussa datassa mutta toimii huonosti uudessa datassa. Suuri ero opetus- ja testivirheen välillä on tyypillinen merkki. Torjuntakeinoja ovat enemmän tai monipuolisempi data, yksinkertaisemmat mallit, regularisointi, dropout ja ristiinvalidointi.
Alisovittuminen (underfitting) tapahtuu, kun malli on liian yksinkertainen tavoittamaan datan riippuvuuksia. Silloin se tekee paljon virheitä sekä opetusdatassa että uudessa datassa, esimerkiksi kun suoralla yritetään kuvata selvästi kaareutuvaa kuviota. Keinoja ovat tehokkaampi malli, informatiivisemmat piirteet, pidempi opetus tai vähäisempi regularisointi; päinvastainen ongelma on ylisovittuminen.
Opetusvirhe ilmaisee, kuinka paljon mallin ennusteet poikkeavat oikeista arvoista juuri siinä datassa, jolla se on opetettu. Yksinään se kertoo vähän: tärkeää on vertailu uuden datan yleistymisvirheeseen. Korkea opetusvirhe viittaa alisovittumiseen; hyvin matala opetusvirhe yhdistettynä korkeaan testidatan virheeseen viittaa yleensä ylisovittumiseen.
Ristiinvalidointi on menetelmä, jolla tarkistetaan, kuinka hyvin malli yleistyy uuteen, näkemättömään dataan. K-kertaisessa ristiinvalidoinnissa data jaetaan k osaan; malli koulutetaan k kertaa k−1 osalla ja testataan kullakin kerralla jäljellä olevalla osalla, minkä jälkeen tulokset keskiarvoistetaan. Tämä auttaa havaitsemaan ylisovittamisen ja vertailemaan malleja tai asetuksia reilusti, erityisesti kun dataa on vähän.
