Glossaire

Régression par forêt aléatoire

Qu’est-ce que Régression par forêt aléatoire ?

La régression par forêt aléatoire prédit des valeurs numériques en combinant de nombreux arbres de décision. Chaque arbre est entraîné sur un échantillon aléatoire des données et une sélection aléatoire de variables ; le résultat est la moyenne des prédictions de tous les arbres. La méthode est ainsi plus robuste et moins sujette au surapprentissage qu'un arbre unique. On l'utilise par exemple pour des prévisions de ventes, des estimations de prix ou de besoins énergétiques, souvent comme point de départ solide sur des données tabulaires.

Thèmes

régression
méthode d'ensemble
arbres de décision

Essayer KI.ordo

Agents, flux et modèles dans un seul espace de travail – démo gratuite de 24 heures.

Lancer la démo

← Tous les termes

Termes associés

Arbre de décision

Un arbre de décision est un modèle qui représente une décision sous forme d’une suite de questions simples oui/non : chaque branche teste une caractéristique, chaque feuille donne un résultat. En apprentissage automatique, ces arbres sont appris à partir des données et servent à la classification ou à la prévision. Leur atout est la lisibilité, par exemple pour comprendre pourquoi une demande de crédit a été signalée selon le revenu, la durée et l’historique de paiement.

Apprentissage automatique
Classification
+1

Bagging

Le bagging (abréviation de bootstrap aggregating) est une méthode d'ensemble en apprentissage automatique : de nombreux modèles sont entraînés sur des échantillons tirés au hasard des données d'entraînement, puis leurs prédictions sont moyennées ou combinées par vote majoritaire. Les résultats gagnent en stabilité et le surapprentissage diminue. L'exemple le plus connu est la forêt aléatoire, qui combine de nombreux arbres de décision, par exemple pour prévoir l'attrition ou des prix.

Méthodes d'ensemble
Apprentissage automatique
+1

Gradient boosting

Le gradient boosting est une technique d’apprentissage automatique qui combine successivement de nombreux modèles simples, généralement de petits arbres de décision. Chaque nouvel arbre est entraîné pour réduire les erreurs restantes des précédents. On obtient ainsi des modèles très performants sur des données tabulaires, par exemple pour le risque de crédit, les prévisions de ventes ou la probabilité d’attrition. XGBoost, LightGBM et CatBoost en sont des implémentations connues ; un réglage soigneux évite le surapprentissage.

Apprentissage automatique
Méthode d’ensemble
+1

Régression linéaire

La régression linéaire est une méthode statistique qui décrit la relation entre une variable cible et une ou plusieurs variables explicatives au moyen d'une droite ou d'un plan. Les coefficients sont généralement choisis de façon à minimiser la somme des carrés des écarts. La méthode est simple à comprendre et à interpréter : elle permet par exemple d'estimer de combien le chiffre d'affaires augmente si le budget publicitaire croît de 1 000 euros. Elle atteint ses limites face à des relations non linéaires.

Statistiques
Prévision
+1