Logistiline regressioon on statistiline meetod, mis ennustab ühe kahest tulemusest tõenäosust, näiteks „ostab“ või „ei osta“. See kaalub sisendtunnuseid ja teisendab nende summa S-kujulise funktsiooni abil väärtuseks vahemikus 0 kuni 1. Kuna kaale on lihtne tõlgendada, kasutatakse seda laialdaselt krediidiskooringus, meditsiinis ja turunduses, sageli kindla lähtetasemena keerukamate mudelite jaoks.
Lineaarne regressioon on statistiline meetod, mis kirjeldab sihtmuutuja ja ühe või mitme ennustaja vahelist seost sirge või tasandi abil. Koefitsiendid valitakse tavaliselt nii, et hälvete ruutude summa oleks minimaalne. Meetod on lihtsasti mõistetav ja tõlgendatav: näiteks saab hinnata, kui palju tulu kasvab, kui reklaamieelarvet suurendada 1000 € võrra. Mittelineaarsete seoste puhul jõuab see piirini.
Klassifikaator on mudel või meetod, mis määrab sisendid ühte mitmest etteantud kategooriast. Klassikalisi variante, nagu otsustuspuud või naiivne Bayes, treenitakse märgendatud näidetega; keelemudelid saavad tekste sorteerida ka kategooriate kirjelduse põhjal. Tüüpilised kasutusalad on rämpsposti tuvastamine, klienditaotluste sorteerimine teemade kaupa ja kviitungite kategoriseerimine. Kvaliteeti mõõdetakse selliste mõõdikutega nagu täpsus (accuracy), täpsus (precision) ja saagis (recall).
Logaritmiline kadu (log loss) mõõdab, kui hästi klassifitseerimismudeli ennustatud tõenäosused vastavad tegelikele tulemustele. Kindlaid, kuid valesid ennustusi karistatakse eriti rängalt; nullilähedane väärtus viitab hästi kalibreeritud prognoosidele. Näide: kui mudel annab kliendile, kes jääb, 95% lahkumistõenäosuse, tõuseb logaritmiline kadu järsult. Matemaatiliselt on see sama mis binaarne ristentroopia.
Naiivne Bayesi klassifikaator on lihtsate klassifitseerimismeetodite perekond, mis põhineb Bayesi teoreemil. Neid nimetatakse „naiivseks“, sest need eeldavad, et kõik tunnused on üksteisest sõltumatud, mis praktikas vastab harva tõele, kuid annab sageli siiski häid tulemusi. Meetodid on kiired, vajavad vähe treeningandmeid ning sobivad eriti hästi tekstide jaoks. Klassikaline näide on rämpspostifilter, mis sorteerib e-kirju tüüpiliste sõnade põhjal.
