Log loss (strata logarytmiczna) mierzy, jak dobrze przewidywane prawdopodobieństwa modelu klasyfikacyjnego zgadzają się z rzeczywistymi wynikami. Pewne siebie, ale błędne przewidywania są karane szczególnie mocno; wartość bliska zeru wskazuje na dobrze skalibrowane prognozy. Przykład: jeśli model przypisuje 95% prawdopodobieństwa odejścia klientowi, który zostaje, log loss gwałtownie rośnie. Matematycznie jest tożsamy z binarną entropią krzyżową.
Agenci, przepływy i szablony w jednym obszarze roboczym – bezpłatne demo na 24 godziny.
Uruchom demoEntropia krzyżowa to miara z teorii informacji, która wskazuje, jak bardzo przewidywany rozkład prawdopodobieństwa odbiega od rzeczywistego. W uczeniu maszynowym jest najczęstszą funkcją straty w zadaniach klasyfikacji, a także w modelach językowych przewidujących kolejny token. Szczególnie mocno karze pewne siebie błędne przewidywania: przypisanie 99% niewłaściwej klasie daje znacznie wyższą stratę niż przypisanie 60%.
Regresja logistyczna to metoda statystyczna, która przewiduje prawdopodobieństwo jednego z dwóch wyników, takich jak „kupuje” lub „nie kupuje”. Waży cechy wejściowe i zamienia ich sumę na wartość od 0 do 1 za pomocą funkcji o kształcie litery S. Ponieważ wagi są łatwe do interpretacji, jest szeroko stosowana w scoringu kredytowym, medycynie i marketingu, często jako solidny punkt odniesienia dla bardziej złożonych modeli.
Klasyfikator to model lub metoda, która przypisuje dane wejściowe do jednej z kilku z góry określonych kategorii. Klasyczne warianty, takie jak drzewa decyzyjne czy naiwny klasyfikator bayesowski, są trenowane na oznaczonych przykładach; modele językowe mogą też sortować teksty na podstawie opisu kategorii. Typowe zastosowania to wykrywanie spamu, sortowanie zapytań klientów według tematu i kategoryzowanie rachunków. Jakość mierzy się metrykami takimi jak dokładność, precyzja i czułość.
Macierz pomyłek (confusion matrix) to tabela porównująca przewidywania klasyfikatora z rzeczywistymi klasami. Dla dwóch klas pokazuje wyniki prawdziwie pozytywne, fałszywie pozytywne, prawdziwie negatywne i fałszywie negatywne. Na jej podstawie można obliczyć metryki takie jak precyzja, czułość i miara F1 oraz zobaczyć, jakie błędy występują. Przykład: filtr spamu, który oznacza wiele prawdziwych e-maili jako spam, ma wiele wyników fałszywie pozytywnych, co bywa kosztowniejsze niż pominięty spam.
