Glossaire

Éthique de l'IA

Qu’est-ce que Éthique de l'IA ?

L'éthique de l'IA traite des questions morales liées au développement et à l'usage de l'IA : équité et discrimination, transparence et explicabilité, protection des données, responsabilité en cas d'erreur, sécurité et effets sur le travail et la société. Pour une organisation, elle se concrétise par des lignes directrices, des évaluations des risques, un contrôle humain et une communication honnête sur les limites de l'IA. Exemple : avant d'utiliser un outil de tri des candidatures, on vérifie qu'il ne défavorise pas certains groupes.

Thèmes

Éthique
Responsabilité
Équité

Essayer KI.ordo

Agents, flux et modèles dans un seul espace de travail – démo gratuite de 24 heures.

Lancer la démo

← Tous les termes

Termes associés

Biais

En IA, un biais est une distorsion systématique des résultats. Il provient souvent de données d'entraînement déséquilibrées ou marquées par l'histoire, mais aussi de la conception du modèle ou de la formulation de la question. Exemple connu : un filtre de candidatures qui apprend des recrutements passés peut perpétuer des discriminations. En statistique, le biais désigne aussi l'écart entre une estimation et la valeur réelle. Parades : données variées, contrôles réguliers et décisions humaines pour les questions de personnel.

Éthique de l'IA
Équité
+1

Transparence de l'IA

La transparence de l'IA consiste à indiquer quand une IA intervient, sur quelles données et sources reposent ses résultats et comment les décisions sont prises. Elle comprend l'étiquetage des contenus générés, des sources vérifiables, des journaux et des modifications documentées. Elle renforce la confiance, facilite la recherche d'erreurs et est en partie imposée par la loi, par exemple par les obligations de transparence de l'AI Act de l'UE, selon lesquelles les personnes doivent pouvoir savoir qu'elles interagissent avec une IA.

Transparence
Confiance
+1

Explicabilité

L’explicabilité (IA explicable, XAI) désigne la capacité à comprendre pourquoi un système d’IA aboutit à un résultat donné. Elle englobe des méthodes qui montrent quelles données d’entrée ont le plus pesé sur une décision, mais aussi des moyens pratiques comme les références aux sources et les journaux d’exécution. Elle est essentielle pour la confiance, le diagnostic des erreurs et la réglementation, par exemple lorsqu’une banque doit justifier le refus d’une demande.

XAI
Transparence
+1

IA et droits humains

Ce terme décrit la manière dont les systèmes d'IA peuvent toucher, positivement ou négativement, des droits humains comme la vie privée, l'égalité de traitement, la liberté d'expression ou le droit à un procès équitable. Les risques viennent par exemple de décisions discriminatoires, de la surveillance de masse, de l'identification biométrique ou de l'impossibilité de contester une décision. Des cadres internationaux comme la Convention-cadre du Conseil de l'Europe sur l'IA et le règlement européen sur l'IA traitent ces questions. Les organisations y répondent par des analyses d'impact, la transparence et un contrôle humain.

Éthique
Droits fondamentaux
+1