Justeret R-kvadreret måler, hvor godt en regressionsmodel forklarer variationen i dataene, korrigeret for antallet af anvendte forklarende variabler. Almindelig R-kvadreret stiger med hver ekstra variabel, også en, der ikke tilføjer noget; den justerede version straffer unødvendige variabler. Det giver en mere retfærdig sammenligning af modeller af forskellig størrelse, for eksempel en salgsprognose med tre i stedet for ti faktorer.
Lineær regression er en statistisk metode, der beskriver sammenhængen mellem en målvariabel og en eller flere prædiktorer ved hjælp af en ret linje eller et plan. Koefficienterne vælges som regel, så summen af de kvadrerede afvigelser bliver mindst mulig. Metoden er let at forstå og fortolke: Den kan f.eks. estimere, hvor meget omsætningen stiger, når reklamebudgettet øges med 1.000 €. Den når sine grænser ved ikke-lineære sammenhænge.
Overfitting opstår, når en model lærer træningsdataene udenad, inklusive tilfældige særheder og støj, i stedet for at fange generelt gyldige mønstre. Den virker så meget nøjagtig på kendte data, men klarer sig dårligt på nye data. En stor forskel mellem trænings- og testfejl er et typisk tegn. Modforanstaltninger er flere eller mere varierede data, enklere modeller, regularisering, dropout og krydsvalidering.
Mean absolute error (MAE) viser, hvor langt en models forudsigelser i gennemsnit afviger fra de faktiske værdier, uanset retning. Den udtrykkes i målvariablens enhed, hvilket gør den let at forstå. Eksempel: en MAE på 12 for en daglig salgsprognose betyder, at modellen i gennemsnit er 12 enheder ved siden af. Den vægter outliers mindre end kvadrerede fejlmål.
Regularisering omfatter teknikker, der under træningen forhindrer en model i at tilpasse sig træningsdataene for tæt (overfitting). Eksempler er straf for store vægte (L1- eller L2-regularisering), tilfældig frakobling af neuroner (dropout) eller at stoppe træningen på det rette tidspunkt (early stopping). Målet er en enklere model, der fungerer mere pålideligt på nye, usete data, selv om den scorer lidt lavere på træningsdataene.
