Sõnastik

Mudeli töökindlus

Mis on Mudeli töökindlus?

Mudeli töökindlus kirjeldab, kui usaldusväärselt TI-mudel toimib, kui sisendid on mürarikkad, mittetäielikud, ebatavalised või tahtlikult manipuleeritud. Töökindel mudel annab ikkagi stabiilseid tulemusi, näiteks piltide tuvastamisel halvas valguses või keelemudelil kirjavigade korral. Töökindlust hinnatakse stressitestide, mitmekesiste treeningandmete ja tahtlike eksitamiskatsete vastu tehtud testidega ning see on eriti oluline turvakriitilistes rakendustes.

Teemad

  • usaldusväärsus
  • mudeli kvaliteet
  • turvalisus

Proovi KI.ordot

Agendid, töövood ja mallid ühes tööruumis – tasuta 24-tunnine demo.

Alusta demot
← Kõik terminid

Seotud terminid

Vastanduv masinõpe

Vastanduv masinõpe uurib, kuidas TI-mudeleid saab tahtlikult manipuleeritud sisendite või treeningandmetega eksitada – ja kuidas neid kaitsta. Tuntud näited on vaevu nähtavad pildimuudatused, mis muudavad liigitust, või mürgitatud treeningandmed. Teema on organisatsioonidele oluline niipea, kui TI toetab turvalisuse seisukohalt olulisi otsuseid. Vastumeetmete hulka kuuluvad töökindel treenimine, sisendite kontroll, jälgimine ja regulaarne turvatestimine.

  • TI turvalisus
  • Töökindlus
  • +1

Mudeli triiv

Mudeli triiv on mudeli ennustuskvaliteedi järkjärguline langus kasutuse ajal, kuna tegelikkus muutub treeningandmetega võrreldes. Eristatakse sisendandmete muutusi (andmetriiv) ning sisendite ja tulemuste vahelise seose muutusi (kontseptsioonitriiv). Näide: pettuste tuvastamise mudel ei märka uusi pettuseskeeme. Abinõudeks on mõõdikute pidev jälgimine ja regulaarne ümberõpe.

  • MLOps
  • mudeli kvaliteet
  • +1

Üldistusviga

Üldistusviga mõõdab, kui palju TI-mudel eksib uute, varem nägemata andmete puhul – erinevalt veast treeningandmetel. Suur lõhe nende kahe vahel viitab ülesobitamisele: mudel on näited pähe õppinud, mitte üldisi mustreid omandanud. Seda hinnatakse kõrvale jäetud testandmete või ristvalideerimise abil. See on näitaja, mis tegelikult loeb, sest praktikas puutub mudel kokku peaaegu ainult uute juhtumitega.

  • Masinõpe
  • Mudeli hindamine
  • +1

Overfitting

Ülesobitamine (overfitting) tekib siis, kui mudel jätab treeningandmed, sealhulgas juhuslikud omapärad ja müra, pähe, selle asemel et tabada üldkehtivaid mustreid. Siis tundub see tuttavate andmete puhul väga täpne, kuid toimib uute andmete puhul halvasti. Tüüpiline märk on suur vahe treening- ja testivea vahel. Vastumeetmed on rohkem või mitmekesisemad andmed, lihtsamad mudelid, regulariseerimine, dropout ja ristvalideerimine.

  • mudeli kvaliteet
  • treenimine
  • +1