Modeļa robustums raksturo, cik uzticami MI modelis darbojas, ja ievaddati ir trokšņaini, nepilnīgi, neparasti vai tīši manipulēti. Robusts modelis joprojām sniedz stabilus rezultātus, piemēram, attēlu atpazīšanā sliktā apgaismojumā vai valodas modelim apstrādājot drukas kļūdas. Robustumu novērtē ar slodzes testiem, daudzveidīgiem apmācības datiem un testiem pret tīšiem maldināšanas mēģinājumiem, un tas ir īpaši svarīgs drošībai kritiskās lietojumprogrammās.
Pretinieciskā mašīnmācīšanās pēta, kā MI modeļus var maldināt ar apzināti manipulētām ievadēm vai apmācības datiem – un kā tos aizsargāt. Labi zināmi piemēri ir tik tikko pamanāmas attēla izmaiņas, kas maina klasifikāciju, vai saindēti apmācības dati. Šī tēma organizācijām kļūst svarīga, tiklīdz MI atbalsta ar drošību saistītus lēmumus. Pretpasākumi ietver noturīgu apmācību, ievades pārbaudes, uzraudzību un regulāru drošības testēšanu.
Modeļa novirze ir pakāpeniska modeļa prognožu kvalitātes pasliktināšanās ekspluatācijas laikā, jo realitāte mainās salīdzinājumā ar apmācības datiem. Izšķir ievaddatu izmaiņas (datu novirze) un izmaiņas sakarībā starp ievadi un rezultātiem (koncepta novirze). Piemērs: krāpšanas atklāšanas modelis nepamana jaunas krāpšanas shēmas. Pretlīdzekļi ir nepārtraukta metriku uzraudzība un regulāra atkārtota apmācība.
Vispārināšanas kļūda mēra, cik tālu MI modelis kļūdās ar jauniem, iepriekš neredzētiem datiem — atšķirībā no tā kļūdas apmācības datos. Liela starpība starp abām norāda uz pārmācīšanos: modelis ir iegaumējis piemērus, nevis apguvis vispārīgas likumsakarības. To novērtē ar atliktiem testa datiem vai krustenisko validāciju. Tas ir rādītājs, kas patiešām skaitās, jo praksē modelis gandrīz vienmēr sastopas ar jauniem gadījumiem.
Pārmērīga pielāgošanās datiem rodas, kad modelis iegaumē apmācības datus, ieskaitot nejaušas īpatnības un troksni, nevis apgūst vispārīgi derīgas likumsakarības. Tad tas šķiet ļoti precīzs ar pazīstamiem datiem, bet slikti darbojas ar jauniem. Tipiska pazīme ir liela atšķirība starp apmācības un testa kļūdu. Pretlīdzekļi ir vairāk vai daudzveidīgāki dati, vienkāršāki modeļi, regularizācija, dropout un krusteniskā validācija.
