Modelrobusthed beskriver, hvor pålideligt en AI-model fungerer, når input er støjende, ufuldstændige, usædvanlige eller bevidst manipulerede. En robust model leverer stadig stabile resultater, f.eks. billedgenkendelse i dårligt lys eller en sprogmodel, der håndterer tastefejl. Robusthed vurderes med stresstests, varierede træningsdata og test mod bevidste forsøg på at snyde modellen, og den er særligt vigtig i sikkerhedskritiske anvendelser.
Adversarial machine learning undersøger, hvordan AI-modeller kan vildledes af bevidst manipulerede input eller træningsdata – og hvordan man beskytter dem. Velkendte eksempler er næsten usynlige billedændringer, der vender en klassificering, eller forgiftede træningsdata. Emnet bliver relevant for organisationer, så snart AI understøtter sikkerhedsrelevante beslutninger. Modforanstaltninger omfatter robust træning, inputkontrol, overvågning og regelmæssige sikkerhedstest.
Modeldrift er den gradvise forringelse af en models forudsigelseskvalitet under drift, fordi virkeligheden ændrer sig i forhold til træningsdataene. Man skelner mellem ændringer i inputdataene (data drift) og ændringer i sammenhængen mellem input og resultater (concept drift). Eksempel: en model til opdagelse af svindel overser nye svindelmetoder. Afhjælpning sker ved løbende overvågning af målinger og regelmæssig gentræning.
Generaliseringsfejlen måler, hvor meget en AI-model rammer ved siden af på nye, tidligere usete data – i modsætning til dens fejl på træningsdataene. Et stort gab mellem de to peger på overfitting: Modellen har lært eksempler udenad i stedet for at lære generelle mønstre. Den estimeres med tilbageholdte testdata eller krydsvalidering. Det er det tal, der virkelig tæller, fordi en model i praksis næsten kun møder nye tilfælde.
Overfitting opstår, når en model lærer træningsdataene udenad, inklusive tilfældige særheder og støj, i stedet for at fange generelt gyldige mønstre. Den virker så meget nøjagtig på kendte data, men klarer sig dårligt på nye data. En stor forskel mellem trænings- og testfejl er et typisk tegn. Modforanstaltninger er flere eller mere varierede data, enklere modeller, regularisering, dropout og krydsvalidering.
