Sanasto

Mallin kestävyys

Mikä on Mallin kestävyys?

Mallin kestävyys (robustness) kuvaa, kuinka luotettavasti tekoälymalli toimii, kun syötteet ovat kohinaisia, puutteellisia, epätavallisia tai tarkoituksella manipuloituja. Kestävä malli tuottaa silti vakaita tuloksia, esimerkiksi tunnistaa kuvia huonossa valaistuksessa tai selviää kielimallina kirjoitusvirheistä. Kestävyyttä arvioidaan stressitesteillä, monipuolisella opetusdatalla ja tahallisia harhautusyrityksiä vastaan tehtävillä testeillä, ja se on erityisen tärkeää turvallisuuskriittisissä sovelluksissa.

Aiheet

luotettavuus
mallin laatu
tietoturva

Kokeile KI.ordoa

Agentit, työnkulut ja mallit yhdessä työtilassa – maksuton 24 tunnin demo.

Aloita demo

← Kaikki termit

Liittyvät termit

Adversariaalinen koneoppiminen

Adversariaalinen koneoppiminen tutkii, miten tekoälymalleja voidaan johtaa harhaan tarkoituksella manipuloiduilla syötteillä tai opetusdatalla – ja miten niitä voidaan suojata. Tunnettuja esimerkkejä ovat tuskin näkyvät kuvamuutokset, jotka kääntävät luokituksen, tai myrkytetty opetusdata. Aihe on organisaatioille tärkeä heti, kun tekoäly tukee tietoturvan kannalta merkittäviä päätöksiä. Vastatoimia ovat robusti koulutus, syötteiden tarkistus, valvonta ja säännöllinen tietoturvatestaus.

Tekoälyn tietoturva
Robustisuus
+1

Mallin ajautuma

Mallin ajautuma (model drift) on mallin ennustelaadun vähittäistä heikkenemistä käytön aikana, koska todellisuus muuttuu opetusdataan verrattuna. Erotetaan toisistaan syöttödatan muutokset (data drift) ja syötteiden sekä lopputulosten välisen suhteen muutokset (concept drift). Esimerkki: petostentunnistusmalli ei havaitse uusia huijaustapoja. Keinoja ovat mittareiden jatkuva seuranta ja säännöllinen uudelleenopetus.

MLOps
mallin laatu
+1

Yleistämisvirhe

Yleistämisvirhe mittaa, kuinka paljon tekoälymalli erehtyy uudessa, aiemmin näkemättömässä datassa – toisin kuin sen virhe koulutusdatassa. Suuri ero näiden kahden välillä viittaa ylisovittamiseen: malli on opetellut esimerkit ulkoa sen sijaan, että olisi oppinut yleisiä kuvioita. Sitä arvioidaan erillisellä testidatalla tai ristiinvalidoinnilla. Se on luku, jolla todella on merkitystä, koska käytännössä malli kohtaa lähes pelkästään uusia tapauksia.

Koneoppiminen
Mallin arviointi
+1

Overfitting

Ylisovittuminen (overfitting) tarkoittaa, että malli oppii opetusdatan ulkoa, satunnaisine erikoisuuksineen ja kohinoineen, sen sijaan että se oppisi yleisesti päteviä säännönmukaisuuksia. Silloin se vaikuttaa erittäin tarkalta tutussa datassa mutta toimii huonosti uudessa datassa. Suuri ero opetus- ja testivirheen välillä on tyypillinen merkki. Torjuntakeinoja ovat enemmän tai monipuolisempi data, yksinkertaisemmat mallit, regularisointi, dropout ja ristiinvalidointi.

mallin laatu
koulutus
+1