Glossaire

Erreur de généralisation

Qu’est-ce que Erreur de généralisation ?

L’erreur de généralisation mesure à quel point un modèle d’IA se trompe sur des données nouvelles, jamais vues, par opposition à son erreur sur les données d’entraînement. Un écart important entre les deux signale un surapprentissage : le modèle a mémorisé des exemples au lieu d’apprendre des régularités générales. On l’estime avec des données de test mises de côté ou par validation croisée. C’est la grandeur décisive, car en production le modèle ne rencontre presque que des cas nouveaux.

Thèmes

Apprentissage automatique
Évaluation de modèle
Surapprentissage

Essayer KI.ordo

Agents, flux et modèles dans un seul espace de travail – démo gratuite de 24 heures.

Lancer la démo

← Tous les termes

Termes associés

Surapprentissage (overfitting)

Le surapprentissage (overfitting) se produit lorsqu’un modèle mémorise les données d’entraînement, y compris leurs aléas et leur bruit, au lieu de saisir des régularités générales. Il paraît alors très précis sur les données connues, mais donne de mauvais résultats sur de nouvelles données. Un écart important entre erreur d’entraînement et erreur de test en est le signe typique. Les remèdes : davantage de données ou des données plus variées, des modèles plus simples, la régularisation, le dropout et la validation croisée.

qualité du modèle
entraînement
+1

Sous-apprentissage (underfitting)

On parle de sous-apprentissage lorsqu'un modèle est trop simple pour saisir les relations présentes dans les données. Il commet alors de nombreuses erreurs dès les données d'entraînement comme sur de nouvelles données, par exemple quand une droite doit représenter une évolution nettement courbe. Pour y remédier : un modèle plus puissant, des variables plus parlantes, un entraînement plus long ou moins de régularisation ; le problème inverse est le surapprentissage.

Machine learning
Qualité du modèle
+1

Erreur d'entraînement

L'erreur d'entraînement indique dans quelle mesure les prédictions d'un modèle s'écartent des valeurs correctes sur les données mêmes qui ont servi à l'entraîner. Prise isolément, elle renseigne peu : c'est la comparaison avec l'erreur de généralisation sur de nouvelles données qui compte. Une erreur d'entraînement élevée signale un sous-apprentissage ; une erreur très faible associée à une erreur de test élevée trahit généralement un surapprentissage.

Machine learning
Évaluation
+1

Validation croisée

La validation croisée est une méthode pour vérifier dans quelle mesure un modèle se généralise à des données nouvelles. Dans la validation croisée à k plis, les données sont divisées en k parties ; le modèle est entraîné k fois sur k−1 parties et testé à chaque fois sur la partie restante, puis on fait la moyenne des résultats. Cela permet de détecter le surapprentissage et de comparer équitablement des modèles ou réglages, surtout avec peu de données.

Évaluation de modèles
Validation
+1