Ristiinvalidointi on menetelmä, jolla tarkistetaan, kuinka hyvin malli yleistyy uuteen, näkemättömään dataan. K-kertaisessa ristiinvalidoinnissa data jaetaan k osaan; malli koulutetaan k kertaa k−1 osalla ja testataan kullakin kerralla jäljellä olevalla osalla, minkä jälkeen tulokset keskiarvoistetaan. Tämä auttaa havaitsemaan ylisovittamisen ja vertailemaan malleja tai asetuksia reilusti, erityisesti kun dataa on vähän.
Agentit, työnkulut ja mallit yhdessä työtilassa – maksuton 24 tunnin demo.
Aloita demoYlisovittuminen (overfitting) tarkoittaa, että malli oppii opetusdatan ulkoa, satunnaisine erikoisuuksineen ja kohinoineen, sen sijaan että se oppisi yleisesti päteviä säännönmukaisuuksia. Silloin se vaikuttaa erittäin tarkalta tutussa datassa mutta toimii huonosti uudessa datassa. Suuri ero opetus- ja testivirheen välillä on tyypillinen merkki. Torjuntakeinoja ovat enemmän tai monipuolisempi data, yksinkertaisemmat mallit, regularisointi, dropout ja ristiinvalidointi.
Yleistämisvirhe mittaa, kuinka paljon tekoälymalli erehtyy uudessa, aiemmin näkemättömässä datassa – toisin kuin sen virhe koulutusdatassa. Suuri ero näiden kahden välillä viittaa ylisovittamiseen: malli on opetellut esimerkit ulkoa sen sijaan, että olisi oppinut yleisiä kuvioita. Sitä arvioidaan erillisellä testidatalla tai ristiinvalidoinnilla. Se on luku, jolla todella on merkitystä, koska käytännössä malli kohtaa lähes pelkästään uusia tapauksia.
Hyperparametrit ovat asetuksia, jotka määritetään ennen mallin koulutusta, kuten oppimisnopeus, kerrosten määrä tai regularisoinnin voimakkuus. Hyperparametrien optimointi etsii järjestelmällisesti yhdistelmän, joka toimii parhaiten validointidatalla, esimerkiksi ruudukkohaulla, satunnaishaulla tai bayesilaisella optimoinnilla. Hyvin valitut arvot parantavat tarkkuutta ja vähentävät ylä- tai alisovittamista, mutta haku vie laskenta-aikaa.
Opetusdata ovat esimerkkejä, joista tekoälymalli oppii säännönmukaisuuksia: suuria tekstikokoelmia kielimalleille, luokiteltuja kuvia kuvamalleille. Niiden laatu, monipuolisuus ja ajantasaisuus määräävät pitkälti, kuinka luotettava ja oikeudenmukainen malli on ja kuinka ajan tasalla sen tietämys on. Organisaatioille on myös tärkeää, käyttääkö tarjoaja syöttämiään asiakastietoja jatko-opetukseen.
