Glossar

Hyperparameter-Optimierung

Was ist Hyperparameter-Optimierung?

Hyperparameter sind Einstellungen, die vor dem Training eines Modells festgelegt werden, etwa Lernrate, Anzahl der Schichten oder Stärke der Regularisierung. Hyperparameter-Optimierung sucht systematisch nach der Kombination, die auf Validierungsdaten die besten Ergebnisse liefert, zum Beispiel per Rastersuche, Zufallssuche oder bayesscher Optimierung. Gut gewählte Werte verbessern die Genauigkeit und verringern Über- oder Unteranpassung, die Suche kostet aber Rechenzeit.

So hilft KI.ordo

Bei KI.ordo werden keine Modelle trainiert; verwandt ist der Regler „Temperatur“ der Agenten, eine Laufzeit-Einstellung, die steuert, wie variantenreich Antworten ausfallen.

Mehr erfahren →

Themen

Training
Modellgüte
Tuning

KI.ordo ausprobieren

Agenten, Abläufe und Vorlagen in einem Arbeitsbereich – 24 Stunden kostenlos als Demo.

Demo starten

← Alle Begriffe

Verwandte Begriffe

Overfitting

Overfitting (Überanpassung) liegt vor, wenn ein Modell die Trainingsdaten samt Zufällen und Rauschen auswendig lernt, statt allgemeingültige Muster zu erfassen. Auf bekannten Daten wirkt es dann sehr genau, auf neuen Daten liefert es jedoch schlechte Ergebnisse. Erkennbar ist das an einer großen Lücke zwischen Trainings- und Testfehler. Gegenmaßnahmen sind mehr oder vielfältigere Daten, einfachere Modelle, Regularisierung, Dropout und Kreuzvalidierung.

Modellqualität
Training
+1

Kreuzvalidierung

Kreuzvalidierung ist ein Verfahren, um zu prüfen, wie gut ein Modell auf neue, unbekannte Daten verallgemeinert. Bei der k-fachen Kreuzvalidierung werden die Daten in k Teile geteilt; das Modell wird k-mal auf k−1 Teilen trainiert und auf dem jeweils verbleibenden Teil getestet, anschließend werden die Ergebnisse gemittelt. So lassen sich Überanpassung erkennen und Modelle oder Einstellungen fair vergleichen, besonders wenn nur wenige Daten vorliegen.

Modellbewertung
Validierung
+1

Maschinelles Lernen

Maschinelles Lernen ist ein Teilgebiet der künstlichen Intelligenz, bei dem Computer Muster aus Daten ableiten, statt jede Regel ausdrücklich programmiert zu bekommen. Je nach Aufgabe lernen Modelle aus beschrifteten Beispielen (überwacht), aus unbeschrifteten Daten (unüberwacht) oder durch Belohnung (bestärkend). Anwendungen reichen von Spamfiltern über Nachfrageprognosen bis zu Produktempfehlungen. Die Qualität hängt stark von Menge und Güte der Trainingsdaten ab.

Grundlagen
KI
+1

Regularisierung

Regularisierung umfasst Techniken, die ein Modell beim Training daran hindern, sich zu eng an die Trainingsdaten anzupassen (Overfitting). Dazu werden etwa zu große Gewichte bestraft (L1- oder L2-Regularisierung), Neuronen zufällig ausgeschaltet (Dropout) oder das Training rechtzeitig beendet (Early Stopping). Das Ziel ist ein einfacheres Modell, das auf neuen, unbekannten Daten zuverlässiger funktioniert, auch wenn es auf den Trainingsdaten etwas schlechter abschneidet.

Training
Overfitting
+1