Die ROC-Kurve (Receiver Operating Characteristic) zeigt, wie gut ein Klassifikationsmodell zwei Klassen trennt. Sie trägt für alle möglichen Entscheidungsschwellen die Trefferquote (Recall) gegen die Rate der Fehlalarme auf. Je weiter die Kurve in die linke obere Ecke ragt, desto besser; die Diagonale entspricht reinem Raten. Die Fläche darunter (AUC) fasst die Kurve in einer Zahl zusammen und hilft etwa beim Vergleich verschiedener Modelle zur Betrugserkennung.
Agenten, Abläufe und Vorlagen in einem Arbeitsbereich – 24 Stunden kostenlos als Demo.
Demo startenDie Fläche unter der Kurve (Area Under the Curve, AUC) ist eine Kennzahl für Klassifikationsmodelle, meist bezogen auf die ROC-Kurve. Sie gibt an, wie gut ein Modell positive von negativen Fällen trennt – unabhängig von einem bestimmten Schwellenwert. Ein Wert von 1 bedeutet perfekte Trennung, 0,5 entspricht Raten. Beispiel: Ein Kündigungsmodell mit AUC 0,85 stuft einen zufällig gewählten Kündiger in 85 % der Fälle riskanter ein als einen treuen Kunden.
Recall (Trefferquote, Sensitivität) misst, welchen Anteil der tatsächlich positiven Fälle ein Modell erkennt: richtig erkannte Positive geteilt durch alle echten Positiven. Findet ein Betrugsfilter 80 von 100 echten Betrugsfällen, liegt der Recall bei 0,8. Hoher Recall ist wichtig, wenn verpasste Fälle teuer sind, etwa bei Krankheitsdiagnosen. Da er Fehlalarme nicht berücksichtigt, wird er meist zusammen mit der Präzision betrachtet, zum Beispiel im F-Score.
Eine Konfusionsmatrix ist eine Tabelle, die die Vorhersagen eines Klassifizierers den tatsächlichen Klassen gegenüberstellt. Bei zwei Klassen zeigt sie richtig positive, falsch positive, richtig negative und falsch negative Fälle. Daraus lassen sich Kennzahlen wie Präzision, Recall und F1-Score berechnen und erkennen, welche Fehler auftreten. Beispiel: Ein Spamfilter, der viele echte E-Mails als Spam markiert, hat viele falsch positive Fälle – das ist oft teurer als ein übersehener Spam.
Ein Klassifizierer ist ein Modell oder Verfahren, das Eingaben einer von mehreren festgelegten Kategorien zuordnet. Klassische Varianten werden mit beschrifteten Beispielen trainiert, etwa Entscheidungsbäume oder Naive Bayes; Sprachmodelle können Texte auch anhand einer Beschreibung der Kategorien einordnen. Typische Einsätze sind Spam-Erkennung, das Sortieren von Kundenanfragen nach Thema oder die Einstufung von Belegen. Die Qualität wird mit Kennzahlen wie Genauigkeit, Präzision und Recall gemessen.
