Glossar

Lernkurve

Was ist Lernkurve?

Im maschinellen Lernen ist eine Lernkurve ein Diagramm, das die Leistung oder den Fehler eines Modells über die Trainingsdauer oder die Menge der Trainingsdaten zeigt, meist getrennt für Trainings- und Validierungsdaten. Aus dem Verlauf lässt sich ablesen, ob ein Modell unter- oder überangepasst ist und ob mehr Daten voraussichtlich helfen. Bleibt etwa der Validierungsfehler deutlich über dem Trainingsfehler, deutet das auf Überanpassung hin. Umgangssprachlich beschreibt der Begriff auch, wie schnell Menschen eine neue Technik beherrschen.

Themen

Training
Modellbewertung
Diagnose

KI.ordo ausprobieren

Agenten, Abläufe und Vorlagen in einem Arbeitsbereich – 24 Stunden kostenlos als Demo.

Demo starten

← Alle Begriffe

Verwandte Begriffe

Konvergenz

Konvergenz bedeutet im maschinellen Lernen, dass sich ein Trainingsverfahren einem stabilen Zustand nähert: Die Fehlerfunktion sinkt kaum noch, und die Modellparameter ändern sich nur noch minimal. Ob und wie schnell ein Modell konvergiert, hängt unter anderem von Lernrate, Datenqualität und Modellarchitektur ab. Ist die Lernrate zu hoch, springt der Fehler hin und her; ist sie zu niedrig, dauert das Training unnötig lange. Konvergenz garantiert allerdings kein gutes Modell, da es auch überangepasst sein kann.

Training
Optimierung
+1

Overfitting

Overfitting (Überanpassung) liegt vor, wenn ein Modell die Trainingsdaten samt Zufällen und Rauschen auswendig lernt, statt allgemeingültige Muster zu erfassen. Auf bekannten Daten wirkt es dann sehr genau, auf neuen Daten liefert es jedoch schlechte Ergebnisse. Erkennbar ist das an einer großen Lücke zwischen Trainings- und Testfehler. Gegenmaßnahmen sind mehr oder vielfältigere Daten, einfachere Modelle, Regularisierung, Dropout und Kreuzvalidierung.

Modellqualität
Training
+1

Underfitting

Underfitting (Unteranpassung) liegt vor, wenn ein Modell zu einfach ist, um die Zusammenhänge in den Daten zu erfassen. Es macht dann schon auf den Trainingsdaten viele Fehler und ebenso auf neuen Daten – etwa wenn eine Gerade einen klar gekrümmten Verlauf abbilden soll. Abhilfe schaffen ein leistungsfähigeres Modell, aussagekräftigere Merkmale, längeres Training oder weniger Regularisierung; das Gegenstück ist Overfitting.

Machine Learning
Modellqualität
+1

Trainingsfehler

Der Trainingsfehler gibt an, wie stark die Vorhersagen eines Modells von den richtigen Werten in genau den Daten abweichen, mit denen es trainiert wurde. Allein ist er wenig aussagekräftig: Entscheidend ist der Vergleich mit dem Generalisierungsfehler auf neuen Daten. Ist der Trainingsfehler hoch, deutet das auf Underfitting hin; ist er sehr niedrig, der Fehler auf Testdaten aber hoch, liegt meist Overfitting vor.

Machine Learning
Evaluierung
+1