Das angepasste R-Quadrat ist eine Kennzahl dafür, wie gut ein Regressionsmodell die Streuung der Daten erklärt – korrigiert um die Zahl der verwendeten Einflussgrößen. Das einfache R-Quadrat steigt mit jeder zusätzlichen Variable, selbst wenn sie nichts beiträgt; die angepasste Variante bestraft unnötige Variablen. So lassen sich Modelle unterschiedlicher Größe fairer vergleichen, etwa bei einer Umsatzprognose mit drei statt zehn Faktoren.
Agenten, Abläufe und Vorlagen in einem Arbeitsbereich – 24 Stunden kostenlos als Demo.
Demo startenDie lineare Regression ist ein statistisches Verfahren, das den Zusammenhang zwischen einer Zielgröße und einer oder mehreren Einflussgrößen durch eine Gerade bzw. Ebene beschreibt. Die Koeffizienten werden meist so bestimmt, dass die Summe der quadrierten Abweichungen minimal wird. Das Verfahren ist leicht verständlich und gut interpretierbar: So lässt sich etwa abschätzen, um wie viel der Umsatz steigt, wenn das Werbebudget um 1.000 Euro erhöht wird. Bei nichtlinearen Zusammenhängen stößt es an Grenzen.
Overfitting (Überanpassung) liegt vor, wenn ein Modell die Trainingsdaten samt Zufällen und Rauschen auswendig lernt, statt allgemeingültige Muster zu erfassen. Auf bekannten Daten wirkt es dann sehr genau, auf neuen Daten liefert es jedoch schlechte Ergebnisse. Erkennbar ist das an einer großen Lücke zwischen Trainings- und Testfehler. Gegenmaßnahmen sind mehr oder vielfältigere Daten, einfachere Modelle, Regularisierung, Dropout und Kreuzvalidierung.
Der mittlere absolute Fehler (Mean Absolute Error, MAE) gibt an, wie weit die Vorhersagen eines Modells im Durchschnitt von den tatsächlichen Werten abweichen, unabhängig von der Richtung. Er wird in der Einheit der Zielgröße angegeben und ist daher leicht verständlich. Beispiel: Ein MAE von 12 bei einer Tagesabsatzprognose bedeutet, dass das Modell im Mittel um 12 Stück danebenliegt. Ausreißer gewichtet er weniger stark als der quadratische Fehler.
Regularisierung umfasst Techniken, die ein Modell beim Training daran hindern, sich zu eng an die Trainingsdaten anzupassen (Overfitting). Dazu werden etwa zu große Gewichte bestraft (L1- oder L2-Regularisierung), Neuronen zufällig ausgeschaltet (Dropout) oder das Training rechtzeitig beendet (Early Stopping). Das Ziel ist ein einfacheres Modell, das auf neuen, unbekannten Daten zuverlässiger funktioniert, auch wenn es auf den Trainingsdaten etwas schlechter abschneidet.
