Modeļa novirze ir pakāpeniska modeļa prognožu kvalitātes pasliktināšanās ekspluatācijas laikā, jo realitāte mainās salīdzinājumā ar apmācības datiem. Izšķir ievaddatu izmaiņas (datu novirze) un izmaiņas sakarībā starp ievadi un rezultātiem (koncepta novirze). Piemērs: krāpšanas atklāšanas modelis nepamana jaunas krāpšanas shēmas. Pretlīdzekļi ir nepārtraukta metriku uzraudzība un regulāra atkārtota apmācība.
Modeļa robustums raksturo, cik uzticami MI modelis darbojas, ja ievaddati ir trokšņaini, nepilnīgi, neparasti vai tīši manipulēti. Robusts modelis joprojām sniedz stabilus rezultātus, piemēram, attēlu atpazīšanā sliktā apgaismojumā vai valodas modelim apstrādājot drukas kļūdas. Robustumu novērtē ar slodzes testiem, daudzveidīgiem apmācības datiem un testiem pret tīšiem maldināšanas mēģinājumiem, un tas ir īpaši svarīgs drošībai kritiskās lietojumprogrammās.
Apmācības dati ir piemēri, no kuriem MI modelis apgūst likumsakarības: lielas teksta kolekcijas valodas modeļiem, marķēti attēli attēlu modeļiem. To kvalitāte, daudzveidība un aktualitāte lielā mērā nosaka, cik uzticams un taisnīgs ir modelis un cik aktuālas ir tā zināšanas. Organizācijām ir svarīgi arī tas, vai pakalpojumu sniedzējs ievadītos klientu datus izmanto tālākai apmācībai.
MLflow ir atvērtā pirmkoda platforma visa mašīnmācīšanās modeļu dzīves cikla pārvaldībai, ko 2018. gadā sākotnēji ieviesa Databricks. Tā reģistrē eksperimentus ar to parametriem un metrikām, pārvalda modeļu versijas reģistrā un vienkāršo izvietošanu. Jaunākās versijas atbalsta arī uz valodas modeļiem balstītu lietojumprogrammu izsekošanu un novērtēšanu. Tādējādi komandas var izsekot, kurš modelis ir izveidots ar kādiem datiem un iestatījumiem.
Pareizība apraksta, cik bieži MI modelis sniedz pareizus rezultātus; stabilitāte apraksta, cik droši šī veiktspēja saglabājas — ar nedaudz mainītiem ievaddatiem, jauniem datiem vai laika gaitā. Modelis testos var būt ļoti precīzs, bet nestabils, ja jau jautājuma pārfrāzēšana noved pie citas atbildes. Reālai lietošanai abas īpašības pārbauda ar fiksētiem testa gadījumiem, krusteniskās validācijas metodi un pastāvīgu uzraudzību.
