Glossaire

Biais

Qu’est-ce que Biais ?

En IA, un biais est une distorsion systématique des résultats. Il provient souvent de données d'entraînement déséquilibrées ou marquées par l'histoire, mais aussi de la conception du modèle ou de la formulation de la question. Exemple connu : un filtre de candidatures qui apprend des recrutements passés peut perpétuer des discriminations. En statistique, le biais désigne aussi l'écart entre une estimation et la valeur réelle. Parades : données variées, contrôles réguliers et décisions humaines pour les questions de personnel.

Thèmes

Éthique de l'IA
Équité
Qualité des données

Essayer KI.ordo

Agents, flux et modèles dans un seul espace de travail – démo gratuite de 24 heures.

Lancer la démo

← Tous les termes

Termes associés

Discrimination dans l'IA

On parle de discrimination dans l'IA lorsqu'un système d'IA désavantage injustement des personnes en raison de caractéristiques comme le sexe, l'origine, l'âge ou le handicap. Les causes sont généralement des données d'entraînement biaisées, des variables indirectes inadaptées comme le code postal ou l'absence de contrôles ; des cas connus concernent le recrutement et l'octroi de crédits. Les parades : données représentatives, tests d'équité réguliers, transparence et contrôle humain des décisions concernant des personnes.

équité
biais
+1

Données d'entraînement

Les données d'entraînement sont les exemples à partir desquels un modèle d'IA apprend des régularités : de vastes corpus de textes pour les modèles de langage, des images annotées pour les modèles de vision. Leur qualité, leur diversité et leur actualité déterminent largement la fiabilité, l'équité et le niveau de connaissances d'un modèle. Pour une entreprise, il importe aussi de savoir si un fournisseur réutilise vos données clients pour l'entraînement.

Données
Entraînement
+1

Éthique de l'IA

L'éthique de l'IA traite des questions morales liées au développement et à l'usage de l'IA : équité et discrimination, transparence et explicabilité, protection des données, responsabilité en cas d'erreur, sécurité et effets sur le travail et la société. Pour une organisation, elle se concrétise par des lignes directrices, des évaluations des risques, un contrôle humain et une communication honnête sur les limites de l'IA. Exemple : avant d'utiliser un outil de tri des candidatures, on vérifie qu'il ne défavorise pas certains groupes.

Éthique
Responsabilité
+1

Explicabilité

L’explicabilité (IA explicable, XAI) désigne la capacité à comprendre pourquoi un système d’IA aboutit à un résultat donné. Elle englobe des méthodes qui montrent quelles données d’entrée ont le plus pesé sur une décision, mais aussi des moyens pratiques comme les références aux sources et les journaux d’exécution. Elle est essentielle pour la confiance, le diagnostic des erreurs et la réglementation, par exemple lorsqu’une banque doit justifier le refus d’une demande.

XAI
Transparence
+1