Glossaire

Discrimination dans l'IA

Qu’est-ce que Discrimination dans l'IA ?

On parle de discrimination dans l'IA lorsqu'un système d'IA désavantage injustement des personnes en raison de caractéristiques comme le sexe, l'origine, l'âge ou le handicap. Les causes sont généralement des données d'entraînement biaisées, des variables indirectes inadaptées comme le code postal ou l'absence de contrôles ; des cas connus concernent le recrutement et l'octroi de crédits. Les parades : données représentatives, tests d'équité réguliers, transparence et contrôle humain des décisions concernant des personnes.

Ce que fait KI.ordo

Dans les projets KI.ordo, les agents livrent des brouillons que des personnes vérifient et valident.

Thèmes

équité
biais
éthique de l'IA

Essayer KI.ordo

Agents, flux et modèles dans un seul espace de travail – démo gratuite de 24 heures.

Lancer la démo

← Tous les termes

Termes associés

Biais

En IA, un biais est une distorsion systématique des résultats. Il provient souvent de données d'entraînement déséquilibrées ou marquées par l'histoire, mais aussi de la conception du modèle ou de la formulation de la question. Exemple connu : un filtre de candidatures qui apprend des recrutements passés peut perpétuer des discriminations. En statistique, le biais désigne aussi l'écart entre une estimation et la valeur réelle. Parades : données variées, contrôles réguliers et décisions humaines pour les questions de personnel.

Éthique de l'IA
Équité
+1

Éthique de l'IA

L'éthique de l'IA traite des questions morales liées au développement et à l'usage de l'IA : équité et discrimination, transparence et explicabilité, protection des données, responsabilité en cas d'erreur, sécurité et effets sur le travail et la société. Pour une organisation, elle se concrétise par des lignes directrices, des évaluations des risques, un contrôle humain et une communication honnête sur les limites de l'IA. Exemple : avant d'utiliser un outil de tri des candidatures, on vérifie qu'il ne défavorise pas certains groupes.

Éthique
Responsabilité
+1

Explicabilité

L’explicabilité (IA explicable, XAI) désigne la capacité à comprendre pourquoi un système d’IA aboutit à un résultat donné. Elle englobe des méthodes qui montrent quelles données d’entrée ont le plus pesé sur une décision, mais aussi des moyens pratiques comme les références aux sources et les journaux d’exécution. Elle est essentielle pour la confiance, le diagnostic des erreurs et la réglementation, par exemple lorsqu’une banque doit justifier le refus d’une demande.

XAI
Transparence
+1

Humain dans la boucle (human-in-the-loop)

Le principe de l'humain dans la boucle désigne des processus où des personnes interviennent à des étapes définies d'un traitement par IA : elles vérifient les résultats, les valident, les corrigent ou reprennent les cas difficiles. Cela réduit le risque d'erreurs et maintient la responsabilité humaine, notamment pour les décisions touchant des personnes, de l'argent ou le droit. Exemple : un agent IA rédige des réponses aux clients, qu'un collaborateur relit avant envoi.

Validation
Contrôle
+1