Sanasto

Hyperparametrien optimointi

Mikä on Hyperparametrien optimointi?

Hyperparametrit ovat asetuksia, jotka määritetään ennen mallin koulutusta, kuten oppimisnopeus, kerrosten määrä tai regularisoinnin voimakkuus. Hyperparametrien optimointi etsii järjestelmällisesti yhdistelmän, joka toimii parhaiten validointidatalla, esimerkiksi ruudukkohaulla, satunnaishaulla tai bayesilaisella optimoinnilla. Hyvin valitut arvot parantavat tarkkuutta ja vähentävät ylä- tai alisovittamista, mutta haku vie laskenta-aikaa.

Miten KI.ordo auttaa

KI.ordo ei kouluta malleja; samankaltainen säädin on agenttien ”lämpötila”-liukusäädin, ajonaikainen asetus, joka määrää, kuinka vaihtelevia vastaukset ovat.

Lue lisää

Aiheet

Training
mallin laatu
Tuning

Kokeile KI.ordoa

Agentit, työnkulut ja mallit yhdessä työtilassa – maksuton 24 tunnin demo.

Aloita demo

← Kaikki termit

Liittyvät termit

Overfitting

Ylisovittuminen (overfitting) tarkoittaa, että malli oppii opetusdatan ulkoa, satunnaisine erikoisuuksineen ja kohinoineen, sen sijaan että se oppisi yleisesti päteviä säännönmukaisuuksia. Silloin se vaikuttaa erittäin tarkalta tutussa datassa mutta toimii huonosti uudessa datassa. Suuri ero opetus- ja testivirheen välillä on tyypillinen merkki. Torjuntakeinoja ovat enemmän tai monipuolisempi data, yksinkertaisemmat mallit, regularisointi, dropout ja ristiinvalidointi.

mallin laatu
koulutus
+1

Ristiinvalidointi

Ristiinvalidointi on menetelmä, jolla tarkistetaan, kuinka hyvin malli yleistyy uuteen, näkemättömään dataan. K-kertaisessa ristiinvalidoinnissa data jaetaan k osaan; malli koulutetaan k kertaa k−1 osalla ja testataan kullakin kerralla jäljellä olevalla osalla, minkä jälkeen tulokset keskiarvoistetaan. Tämä auttaa havaitsemaan ylisovittamisen ja vertailemaan malleja tai asetuksia reilusti, erityisesti kun dataa on vähän.

Mallin arviointi
validointi
+1

Koneoppiminen

Koneoppiminen on tekoälyn haara, jossa tietokoneet johtavat kuvioita datasta sen sijaan, että jokainen sääntö ohjelmoitaisiin erikseen. Tehtävästä riippuen mallit oppivat merkityistä esimerkeistä (ohjattu oppiminen), merkitsemättömästä datasta (ohjaamaton oppiminen) tai palkkioiden kautta (vahvistusoppiminen). Sovelluksia ovat roskapostisuodattimista ja kysyntäennusteista tuotesuosituksiin. Laatu riippuu vahvasti koulutusdatan määrästä ja laadusta.

perusteet
tekoäly
+1

Regularisointi

Regularisointi kattaa tekniikat, jotka estävät mallia sovittumasta opetusdataansa liian tarkasti opetuksen aikana (ylisovittuminen). Esimerkkejä ovat suurten painojen rankaiseminen (L1- tai L2-regularisointi), neuronien satunnainen sammuttaminen (dropout) tai opetuksen pysäyttäminen oikealla hetkellä (early stopping). Tavoitteena on yksinkertaisempi malli, joka toimii luotettavammin uudessa, näkemättömässä datassa, vaikka se saisi opetusdatassa hieman heikomman tuloksen.

koulutus
ylisovittuminen
+1