Logistisk regression er en statistisk metode, der forudsiger sandsynligheden for et af to udfald, f.eks. »køber« eller »køber ikke«. Den vægter input-features og omdanner deres sum til en værdi mellem 0 og 1 med en S-formet funktion. Fordi vægtene er lette at fortolke, er den udbredt inden for kreditscoring, medicin og marketing, ofte som en solid baseline for mere komplekse modeller.
Lineær regression er en statistisk metode, der beskriver sammenhængen mellem en målvariabel og en eller flere prædiktorer ved hjælp af en ret linje eller et plan. Koefficienterne vælges som regel, så summen af de kvadrerede afvigelser bliver mindst mulig. Metoden er let at forstå og fortolke: Den kan f.eks. estimere, hvor meget omsætningen stiger, når reklamebudgettet øges med 1.000 €. Den når sine grænser ved ikke-lineære sammenhænge.
En klassifikator er en model eller metode, der tildeler input til én af flere foruddefinerede kategorier. Klassiske varianter som beslutningstræer eller naive Bayes trænes på mærkede eksempler; sprogmodeller kan også sortere tekster ud fra en beskrivelse af kategorierne. Typiske anvendelser er spamgenkendelse, sortering af kundehenvendelser efter emne og kategorisering af bilag. Kvaliteten måles med nøgletal som nøjagtighed, præcision og recall.
Log loss (logaritmisk tab) måler, hvor godt de forudsagte sandsynligheder fra en klassifikationsmodel stemmer overens med de faktiske udfald. Sikre, men forkerte forudsigelser straffes særligt hårdt; en værdi tæt på nul angiver velkalibrerede prognoser. Eksempel: Hvis en model giver en kunde, der bliver, 95 % sandsynlighed for at forlade virksomheden, stiger log loss kraftigt. Matematisk er det det samme som binær krydsentropi.
Naive Bayes er en familie af enkle klassifikationsmetoder baseret på Bayes' sætning. De kaldes »naive«, fordi de antager, at alle features er uafhængige af hinanden, hvilket sjældent er tilfældet i praksis, men alligevel ofte giver gode resultater. Metoderne er hurtige, kræver kun få træningsdata og er særligt velegnede til tekst. Et klassisk eksempel er spamfilteret, der sorterer e-mails ud fra typiske ord.
