Glossaire

Optimisation des hyperparamètres

Qu’est-ce que Optimisation des hyperparamètres ?

Les hyperparamètres sont des réglages fixés avant l'entraînement d'un modèle, comme le taux d'apprentissage, le nombre de couches ou l'intensité de la régularisation. L'optimisation des hyperparamètres recherche systématiquement la combinaison la plus performante sur des données de validation, par exemple par recherche en grille, recherche aléatoire ou optimisation bayésienne. Des valeurs bien choisies améliorent la précision et limitent le surapprentissage ou le sous-apprentissage, mais la recherche coûte du temps de calcul.

Ce que fait KI.ordo

KI.ordo n'entraîne pas de modèles ; un réglage voisin est le curseur « Température » des agents, qui détermine à l'exécution la variété des réponses.

En savoir plus →

Thèmes

Entraînement
Qualité du modèle
Réglage

Essayer KI.ordo

Agents, flux et modèles dans un seul espace de travail – démo gratuite de 24 heures.

Lancer la démo

← Tous les termes

Termes associés

Surapprentissage (overfitting)

Le surapprentissage (overfitting) se produit lorsqu’un modèle mémorise les données d’entraînement, y compris leurs aléas et leur bruit, au lieu de saisir des régularités générales. Il paraît alors très précis sur les données connues, mais donne de mauvais résultats sur de nouvelles données. Un écart important entre erreur d’entraînement et erreur de test en est le signe typique. Les remèdes : davantage de données ou des données plus variées, des modèles plus simples, la régularisation, le dropout et la validation croisée.

qualité du modèle
entraînement
+1

Validation croisée

La validation croisée est une méthode pour vérifier dans quelle mesure un modèle se généralise à des données nouvelles. Dans la validation croisée à k plis, les données sont divisées en k parties ; le modèle est entraîné k fois sur k−1 parties et testé à chaque fois sur la partie restante, puis on fait la moyenne des résultats. Cela permet de détecter le surapprentissage et de comparer équitablement des modèles ou réglages, surtout avec peu de données.

Évaluation de modèles
Validation
+1

Apprentissage automatique

L’apprentissage automatique (machine learning) est une branche de l’intelligence artificielle dans laquelle les ordinateurs déduisent des régularités à partir de données au lieu de recevoir chaque règle explicitement programmée. Selon la tâche, les modèles apprennent à partir d’exemples étiquetés (supervisé), de données non étiquetées (non supervisé) ou par récompense (par renforcement). Les applications vont des filtres anti-spam aux prévisions de demande et aux recommandations de produits. La qualité dépend fortement du volume et de la qualité des données d’entraînement.

fondamentaux
IA
+1

Régularisation

La régularisation regroupe des techniques qui empêchent un modèle de trop coller à ses données d'entraînement (surapprentissage). On pénalise par exemple les poids trop élevés (régularisation L1 ou L2), on désactive aléatoirement des neurones (dropout) ou on arrête l'entraînement au bon moment (early stopping). L'objectif est un modèle plus simple, plus fiable sur des données nouvelles, même s'il obtient un score un peu inférieur sur les données d'entraînement.

entraînement
surapprentissage
+1