Robustnost modela opisuje, kako zanesljivo model UI deluje, kadar so vhodni podatki šumni, nepopolni, nenavadni ali namerno izmaličeni. Robusten model še vedno daje stabilne rezultate, na primer pri prepoznavanju slik v slabi svetlobi ali kadar jezikovni model obravnava tipkarske napake. Robustnost ocenjujemo s stresnimi testi, raznolikimi podatki za učenje in preizkusi proti namernim poskusom zavajanja; posebej je pomembna pri aplikacijah, kritičnih za varnost.
Agenti, poteki dela in predloge v enem delovnem prostoru – brezplačna 24-urna predstavitev.
Začni predstavitevNasprotniško strojno učenje (adversarial machine learning) proučuje, kako je mogoče modele UI zavesti z namerno manipuliranimi vnosi ali učnimi podatki – in kako jih zaščititi. Znana primera sta komaj vidni spremembi slike, ki obrneta razvrstitev, ali zastrupljeni učni podatki. Tema je za organizacije pomembna, ko UI podpira varnostno pomembne odločitve. Protiukrepi vključujejo robustno učenje, preverjanje vnosov, spremljanje in redno varnostno testiranje.
Odmik modela je postopno slabšanje napovedne kakovosti modela med delovanjem, ker se resničnost spreminja v primerjavi s podatki za učenje. Ločimo spremembe vhodnih podatkov (odmik podatkov) in spremembe razmerja med vhodi in rezultati (odmik konceptov). Primer: model za zaznavanje goljufij spregleda nove goljufive sheme. Rešitev sta stalno spremljanje metrik in redno ponovno učenje.
Napaka posploševanja meri, koliko se model UI moti pri novih, še nevidenih podatkih – v nasprotju z napako pri učnih podatkih. Velika vrzel med njima kaže na čezmerno prilagajanje: model si je zapomnil primere, namesto da bi se naučil splošnih vzorcev. Ocenjuje se s podatki, ki so bili izločeni za testiranje, ali z navzkrižnim preverjanjem. To je številka, ki res šteje, ker se model v praksi skoraj vedno sreča z novimi primeri.
Preveliko prileganje nastane, ko si model zapomni podatke za učenje, vključno z naključnimi posebnostmi in šumom, namesto da bi zajel splošno veljavne vzorce. Na znanih podatkih potem deluje zelo natančno, na novih pa slabo. Tipičen znak je velika razlika med napako pri učenju in napako pri testiranju. Protiukrepi so več ali bolj raznolikih podatkov, preprostejši modeli, regularizacija, izpuščanje (dropout) in navzkrižno preverjanje.
