Glossaire

Apprentissage par renforcement à partir de retours humains (RLHF)

Qu’est-ce que Apprentissage par renforcement à partir de retours humains (RLHF) ?

Le RLHF est une méthode d'entraînement qui rend les modèles de langage plus utiles et plus sûrs. Des personnes comparent et notent plusieurs réponses du modèle ; ces jugements servent à entraîner un modèle de récompense, qui affine ensuite le modèle de langage par apprentissage par renforcement. Le modèle apprend ainsi, par exemple, à répondre plus clairement ou à refuser des demandes problématiques. Le RLHF a lieu chez le fournisseur du modèle, avant sa publication, et non chez chaque utilisateur.

Ce que fait KI.ordo

Les évaluations 👍/👎 dans KI.ordo ne réentraînent pas le modèle ; elles indiquent où améliorer les connaissances ou les instructions d'un agent.

En savoir plus →

Thèmes

entraînement
retours humains
modèles de langage

Essayer KI.ordo

Agents, flux et modèles dans un seul espace de travail – démo gratuite de 24 heures.

Lancer la démo

← Tous les termes

Termes associés

Apprentissage par renforcement (RL)

L'apprentissage par renforcement (reinforcement learning) est une branche de l'apprentissage automatique dans laquelle un agent apprend par essais et erreurs. Il agit dans un environnement, reçoit des récompenses pour les bons résultats et des pénalités pour les mauvais, et élabore ainsi une stratégie qui maximise le gain global. Parmi les exemples connus figurent les programmes qui maîtrisent des jeux comme le go, le pilotage de robots ou l'ajustement de modèles de langage à partir d'évaluations humaines.

méthode d'apprentissage
récompense
+1

Ajustement par instructions (instruction tuning)

L'instruction tuning est une forme d'affinage dans laquelle un modèle de langage pré-entraîné est entraîné davantage sur de nombreuses paires associant une consigne et la réponse attendue. Le modèle apprend ainsi à exécuter des tâches formulées en langage naturel, au lieu de simplement prolonger un texte. C'est une étape clé pour passer d'un modèle de base à un assistant, souvent combinée à des méthodes comme le RLHF. Exemple : « Résume ce texte en trois phrases » est exécuté de façon fiable.

Affinage
Modèles de langage
+1

IA constitutionnelle

L'IA constitutionnelle (Constitutional AI) est une méthode d'entraînement de modèles de langage publiée par Anthropic en 2022, sans rapport avec le droit constitutionnel. Elle repose sur une liste écrite de principes, la « constitution » : le modèle critique et révise ses propres réponses selon ces principes, puis une IA compare des paires de réponses, et ces jugements servent de signal de récompense pour l'apprentissage par renforcement (RLAIF). On réduit ainsi le besoin d'évaluation humaine de contenus nuisibles ; en janvier 2026, Anthropic a publié une constitution révisée pour Claude.

Entraînement
Sécurité de l'IA
+1

Réglage fin (fine-tuning)

Le réglage fin (fine-tuning) consiste à poursuivre l’entraînement d’un modèle d’IA déjà pré-entraîné avec des données supplémentaires, généralement propres à une tâche. Ses poids internes sont ajustés pour qu’il maîtrise plus sûrement un style d’écriture, un vocabulaire spécialisé ou un format de sortie. Cela exige des exemples soigneusement préparés, de la puissance de calcul et des tests. Pour beaucoup d’usages, des instructions bien rédigées et des connaissances connectées suffisent et se modifient plus facilement.

Entraînement
Personnalisation
+1