Glossaire

IA constitutionnelle

Qu’est-ce que IA constitutionnelle ?

L'IA constitutionnelle (Constitutional AI) est une méthode d'entraînement de modèles de langage publiée par Anthropic en 2022, sans rapport avec le droit constitutionnel. Elle repose sur une liste écrite de principes, la « constitution » : le modèle critique et révise ses propres réponses selon ces principes, puis une IA compare des paires de réponses, et ces jugements servent de signal de récompense pour l'apprentissage par renforcement (RLAIF). On réduit ainsi le besoin d'évaluation humaine de contenus nuisibles ; en janvier 2026, Anthropic a publié une constitution révisée pour Claude.

Ce que fait KI.ordo

Les modèles Claude d'Anthropic utilisés dans KI.ordo sont notamment entraînés avec cette méthode.

Thèmes

Entraînement
Sécurité de l'IA
Anthropic

Essayer KI.ordo

Agents, flux et modèles dans un seul espace de travail – démo gratuite de 24 heures.

Lancer la démo

← Tous les termes

Termes associés

Apprentissage par renforcement à partir de retours humains (RLHF)

Le RLHF est une méthode d'entraînement qui rend les modèles de langage plus utiles et plus sûrs. Des personnes comparent et notent plusieurs réponses du modèle ; ces jugements servent à entraîner un modèle de récompense, qui affine ensuite le modèle de langage par apprentissage par renforcement. Le modèle apprend ainsi, par exemple, à répondre plus clairement ou à refuser des demandes problématiques. Le RLHF a lieu chez le fournisseur du modèle, avant sa publication, et non chez chaque utilisateur.

entraînement
retours humains
+1

Claude

Claude est une famille de grands modèles de langage de l'entreprise américaine d'IA Anthropic. Ces modèles comprennent et rédigent des textes dans de nombreuses langues, analysent des documents, programment et peuvent utiliser des outils, par exemple pour la recherche ou l'automatisation. Les familles les plus connues sont Haiku, Sonnet et Opus, qui se distinguent par leur rapidité, leur coût et leurs capacités. Anthropic met l'accent sur la sécurité et la fiabilité du comportement des modèles.

Anthropic
modèle de langage
+1

Éthique de l'IA

L'éthique de l'IA traite des questions morales liées au développement et à l'usage de l'IA : équité et discrimination, transparence et explicabilité, protection des données, responsabilité en cas d'erreur, sécurité et effets sur le travail et la société. Pour une organisation, elle se concrétise par des lignes directrices, des évaluations des risques, un contrôle humain et une communication honnête sur les limites de l'IA. Exemple : avant d'utiliser un outil de tri des candidatures, on vérifie qu'il ne défavorise pas certains groupes.

Éthique
Responsabilité
+1

Sécurité des LLM

La sécurité des LLM regroupe les mesures qui protègent les applications fondées sur de grands modèles de langage contre les abus, les fuites de données et les comportements indésirables. Les risques typiques sont l’injection de prompt, la divulgation d’instructions ou de données confidentielles et des agents dotés de droits trop étendus. La protection repose sur plusieurs niveaux : instructions claires, droits limités, contrôle des entrées et sorties, pare-feu IA, red teaming et audits réguliers.

sécurité
modèles de langage
+1

Modèle