Logistisk regression är en statistisk metod som förutsäger sannolikheten för ett av två utfall, som ”köper” eller ”köper inte”. Den viktar indatavariablerna och omvandlar deras summa till ett värde mellan 0 och 1 med en S-formad funktion. Eftersom vikterna är lätta att tolka används den flitigt inom kreditvärdering, medicin och marknadsföring, ofta som en stabil baslinje för mer komplexa modeller.
Linjär regression är en statistisk metod som beskriver sambandet mellan en målvariabel och en eller flera prediktorer med en rät linje eller ett plan. Koefficienterna väljs vanligtvis så att summan av de kvadrerade avvikelserna minimeras. Metoden är lätt att förstå och tolka: den kan till exempel uppskatta hur mycket intäkterna stiger när reklambudgeten ökar med 1 000 kr. Den når sina gränser vid icke-linjära samband.
En klassificerare är en modell eller metod som placerar indata i en av flera förutbestämda kategorier. Klassiska varianter som beslutsträd eller naiv Bayes tränas på annoterade exempel; språkmodeller kan också sortera texter utifrån en beskrivning av kategorierna. Typiska användningar är skräppostdetektering, sortering av kundförfrågningar efter ämne och kategorisering av kvitton. Kvaliteten mäts med mått som noggrannhet, precision och täckning.
Logaritmisk förlust (log loss) mäter hur väl de förutsagda sannolikheterna från en klassificeringsmodell stämmer med de faktiska utfallen. Säkra men felaktiga förutsägelser straffas särskilt hårt; ett värde nära noll tyder på välkalibrerade prognoser. Exempel: om en modell anger 95 % sannolikhet för bortfall för en kund som blir kvar ökar den logaritmiska förlusten kraftigt. Matematiskt är den detsamma som binär korsentropi.
Naive Bayes är en familj av enkla klassificeringsmetoder som bygger på Bayes sats. De kallas ”naiva” eftersom de förutsätter att alla särdrag är oberoende av varandra, vilket sällan stämmer i praktiken men ändå ofta ger goda resultat. Metoderna är snabba, kräver lite träningsdata och passar särskilt bra för text. Ett klassiskt exempel är spamfiltret som sorterar e-post utifrån typiska ord.
