Glossaire

Courbe d'apprentissage

Qu’est-ce que Courbe d'apprentissage ?

En apprentissage automatique, une courbe d'apprentissage est un graphique montrant la performance ou l'erreur d'un modèle en fonction de la durée d'entraînement ou de la quantité de données, généralement séparément pour les données d'entraînement et de validation. Son allure indique si le modèle est sous- ou surajusté et si davantage de données aiderait. Si l'erreur de validation reste nettement au-dessus de l'erreur d'entraînement, par exemple, cela signale un surapprentissage. Dans le langage courant, le terme décrit aussi la vitesse à laquelle on maîtrise une nouvelle technologie.

Thèmes

  • Entraînement
  • Évaluation de modèles
  • Diagnostic

Essayer KI.ordo

Agents, flux et modèles dans un seul espace de travail – démo gratuite de 24 heures.

Lancer la démo
← Tous les termes

Termes associés

Convergence

En apprentissage automatique, la convergence signifie qu'un entraînement se rapproche d'un état stable : la fonction de perte ne diminue presque plus et les paramètres du modèle ne varient que très peu. La convergence et sa vitesse dépendent notamment du taux d'apprentissage, de la qualité des données et de l'architecture. Si le taux est trop élevé, l'erreur oscille ; s'il est trop faible, l'entraînement dure inutilement. La convergence ne garantit pas un bon modèle, qui peut aussi être surajusté.

  • Entraînement
  • Optimisation
  • +1

Surapprentissage (overfitting)

Le surapprentissage (overfitting) se produit lorsqu’un modèle mémorise les données d’entraînement, y compris leurs aléas et leur bruit, au lieu de saisir des régularités générales. Il paraît alors très précis sur les données connues, mais donne de mauvais résultats sur de nouvelles données. Un écart important entre erreur d’entraînement et erreur de test en est le signe typique. Les remèdes : davantage de données ou des données plus variées, des modèles plus simples, la régularisation, le dropout et la validation croisée.

  • qualité du modèle
  • entraînement
  • +1

Sous-apprentissage (underfitting)

On parle de sous-apprentissage lorsqu'un modèle est trop simple pour saisir les relations présentes dans les données. Il commet alors de nombreuses erreurs dès les données d'entraînement comme sur de nouvelles données, par exemple quand une droite doit représenter une évolution nettement courbe. Pour y remédier : un modèle plus puissant, des variables plus parlantes, un entraînement plus long ou moins de régularisation ; le problème inverse est le surapprentissage.

  • Machine learning
  • Qualité du modèle
  • +1

Erreur d'entraînement

L'erreur d'entraînement indique dans quelle mesure les prédictions d'un modèle s'écartent des valeurs correctes sur les données mêmes qui ont servi à l'entraîner. Prise isolément, elle renseigne peu : c'est la comparaison avec l'erreur de généralisation sur de nouvelles données qui compte. Une erreur d'entraînement élevée signale un sous-apprentissage ; une erreur très faible associée à une erreur de test élevée trahit généralement un surapprentissage.

  • Machine learning
  • Évaluation
  • +1