La validation croisée est une méthode pour vérifier dans quelle mesure un modèle se généralise à des données nouvelles. Dans la validation croisée à k plis, les données sont divisées en k parties ; le modèle est entraîné k fois sur k−1 parties et testé à chaque fois sur la partie restante, puis on fait la moyenne des résultats. Cela permet de détecter le surapprentissage et de comparer équitablement des modèles ou réglages, surtout avec peu de données.
Agents, flux et modèles dans un seul espace de travail – démo gratuite de 24 heures.
Lancer la démoLe surapprentissage (overfitting) se produit lorsqu’un modèle mémorise les données d’entraînement, y compris leurs aléas et leur bruit, au lieu de saisir des régularités générales. Il paraît alors très précis sur les données connues, mais donne de mauvais résultats sur de nouvelles données. Un écart important entre erreur d’entraînement et erreur de test en est le signe typique. Les remèdes : davantage de données ou des données plus variées, des modèles plus simples, la régularisation, le dropout et la validation croisée.
L’erreur de généralisation mesure à quel point un modèle d’IA se trompe sur des données nouvelles, jamais vues, par opposition à son erreur sur les données d’entraînement. Un écart important entre les deux signale un surapprentissage : le modèle a mémorisé des exemples au lieu d’apprendre des régularités générales. On l’estime avec des données de test mises de côté ou par validation croisée. C’est la grandeur décisive, car en production le modèle ne rencontre presque que des cas nouveaux.
Les hyperparamètres sont des réglages fixés avant l'entraînement d'un modèle, comme le taux d'apprentissage, le nombre de couches ou l'intensité de la régularisation. L'optimisation des hyperparamètres recherche systématiquement la combinaison la plus performante sur des données de validation, par exemple par recherche en grille, recherche aléatoire ou optimisation bayésienne. Des valeurs bien choisies améliorent la précision et limitent le surapprentissage ou le sous-apprentissage, mais la recherche coûte du temps de calcul.
Les données d'entraînement sont les exemples à partir desquels un modèle d'IA apprend des régularités : de vastes corpus de textes pour les modèles de langage, des images annotées pour les modèles de vision. Leur qualité, leur diversité et leur actualité déterminent largement la fiabilité, l'équité et le niveau de connaissances d'un modèle. Pour une entreprise, il importe aussi de savoir si un fournisseur réutilise vos données clients pour l'entraînement.
