Robusnost modela opisuje koliko pouzdano UI model radi kada su ulazni podaci zašumljeni, nepotpuni, neobični ili namjerno manipulirani. Robustan model i dalje daje stabilne rezultate, primjerice pri prepoznavanju slika u lošim svjetlosnim uvjetima ili kada jezični model obrađuje tipfelere. Robusnost se procjenjuje testovima opterećenja, raznolikim podacima za učenje i testovima protiv namjernih pokušaja obmane, a posebno je važna u primjenama kritičnima za sigurnost.
Agenti, tijekovi rada i predlošci u jednom radnom prostoru – besplatna demo verzija na 24 sata.
Pokrenite demoSuparničko strojno učenje istražuje kako se UI modeli mogu zavarati namjerno izmijenjenim ulaznim podacima ili podacima za učenje – i kako ih zaštititi. Poznati su primjeri jedva vidljive promjene na slikama koje mijenjaju klasifikaciju ili zatrovani podaci za učenje. Tema postaje važna za organizacije čim UI podržava odluke bitne za sigurnost. Protumjere uključuju robusno učenje, provjere ulaznih podataka, nadzor i redovita sigurnosna testiranja.
Pomak modela postupno je smanjenje kvalitete predviđanja modela tijekom rada jer se stvarnost mijenja u odnosu na podatke za učenje. Razlikuju se promjene ulaznih podataka (pomak podataka) i promjene odnosa između ulaznih podataka i ishoda (pomak koncepta). Primjer: model za otkrivanje prijevara ne prepoznaje nove obrasce prijevara. Rješenja su kontinuirano praćenje metrika i redovito ponovno učenje.
Pogreška generalizacije mjeri koliko UI model griješi na novim, prethodno neviđenim podacima – za razliku od pogreške na podacima za treniranje. Velik jaz između to dvoje ukazuje na pretreniranost: model je zapamtio primjere umjesto da nauči opće obrasce. Procjenjuje se pomoću izdvojenih testnih podataka ili unakrsne validacije. To je pokazatelj koji stvarno računa, jer se u praksi model gotovo isključivo susreće s novim slučajevima.
Pretreniranost (overfitting) nastaje kada model nauči napamet podatke za učenje, uključujući slučajne osobitosti i šum, umjesto da obuhvati općenito važeće uzorke. Tada se čini vrlo točnim na poznatim podacima, ali loše radi na novima. Veliki razmak između pogreške na podacima za učenje i na testnim podacima tipičan je znak. Protumjere su više ili raznolikijih podataka, jednostavniji modeli, regularizacija, dropout i unakrsna validacija.
