Glossar

Modellrobustheit

Was ist Modellrobustheit?

Modellrobustheit beschreibt, wie zuverlässig ein KI-Modell arbeitet, wenn Eingaben verrauscht, unvollständig, ungewöhnlich oder gezielt manipuliert sind. Ein robustes Modell liefert auch dann stabile Ergebnisse, etwa eine Bilderkennung bei schlechter Beleuchtung oder ein Sprachmodell bei Tippfehlern. Robustheit wird mit Stresstests, vielfältigen Trainingsdaten und Tests gegen gezielte Täuschungsversuche geprüft und ist besonders in sicherheitskritischen Anwendungen wichtig.

Themen

Zuverlässigkeit
Modellqualität
Sicherheit

KI.ordo ausprobieren

Agenten, Abläufe und Vorlagen in einem Arbeitsbereich – 24 Stunden kostenlos als Demo.

Demo starten

← Alle Begriffe

Verwandte Begriffe

Adversarial Machine Learning

Adversarial Machine Learning untersucht, wie KI-Modelle durch gezielt manipulierte Eingaben oder Trainingsdaten getäuscht werden können – und wie man sie davor schützt. Bekannte Beispiele sind kaum sichtbare Bildveränderungen, die eine Klassifizierung kippen lassen, oder vergiftete Trainingsdaten. Für Unternehmen ist das Thema relevant, sobald KI sicherheitskritische Entscheidungen unterstützt. Schutzmaßnahmen sind unter anderem robustes Training, Eingabeprüfung, Überwachung und regelmäßige Sicherheitstests.

KI-Sicherheit
Robustheit
+1

Model Drift

Model Drift beschreibt das allmähliche Nachlassen der Vorhersagequalität eines Modells im laufenden Betrieb, weil sich die Wirklichkeit gegenüber den Trainingsdaten verändert. Man unterscheidet Veränderungen der Eingabedaten (Data Drift) und Veränderungen des Zusammenhangs zwischen Eingaben und Ergebnis (Concept Drift). Beispiel: Ein Betrugserkennungsmodell übersieht neue Betrugsmaschen. Gegenmittel sind laufende Überwachung von Kennzahlen und regelmäßiges Nachtrainieren.

MLOps
Modellqualität
+1

Generalisierungsfehler

Der Generalisierungsfehler misst, wie stark ein KI-Modell bei neuen, bisher ungesehenen Daten danebenliegt – im Unterschied zum Fehler auf den Trainingsdaten. Ein großer Abstand zwischen beiden deutet auf Überanpassung hin: Das Modell hat Beispiele auswendig gelernt statt allgemeine Muster. Geschätzt wird der Generalisierungsfehler mit zurückgehaltenen Testdaten oder Kreuzvalidierung. Er ist die eigentlich entscheidende Größe, denn im Einsatz begegnen dem Modell fast nur neue Fälle.

Maschinelles Lernen
Modellbewertung
+1

Overfitting

Overfitting (Überanpassung) liegt vor, wenn ein Modell die Trainingsdaten samt Zufällen und Rauschen auswendig lernt, statt allgemeingültige Muster zu erfassen. Auf bekannten Daten wirkt es dann sehr genau, auf neuen Daten liefert es jedoch schlechte Ergebnisse. Erkennbar ist das an einer großen Lücke zwischen Trainings- und Testfehler. Gegenmaßnahmen sind mehr oder vielfältigere Daten, einfachere Modelle, Regularisierung, Dropout und Kreuzvalidierung.

Modellqualität
Training
+1