Glossaire

IA et droits humains

Qu’est-ce que IA et droits humains ?

Ce terme décrit la manière dont les systèmes d'IA peuvent toucher, positivement ou négativement, des droits humains comme la vie privée, l'égalité de traitement, la liberté d'expression ou le droit à un procès équitable. Les risques viennent par exemple de décisions discriminatoires, de la surveillance de masse, de l'identification biométrique ou de l'impossibilité de contester une décision. Des cadres internationaux comme la Convention-cadre du Conseil de l'Europe sur l'IA et le règlement européen sur l'IA traitent ces questions. Les organisations y répondent par des analyses d'impact, la transparence et un contrôle humain.

Thèmes

  • Éthique
  • Droits fondamentaux
  • Réglementation

Essayer KI.ordo

Agents, flux et modèles dans un seul espace de travail – démo gratuite de 24 heures.

Lancer la démo
← Tous les termes

Termes associés

Éthique de l'IA

L'éthique de l'IA traite des questions morales liées au développement et à l'usage de l'IA : équité et discrimination, transparence et explicabilité, protection des données, responsabilité en cas d'erreur, sécurité et effets sur le travail et la société. Pour une organisation, elle se concrétise par des lignes directrices, des évaluations des risques, un contrôle humain et une communication honnête sur les limites de l'IA. Exemple : avant d'utiliser un outil de tri des candidatures, on vérifie qu'il ne défavorise pas certains groupes.

  • Éthique
  • Responsabilité
  • +1

Discrimination dans l'IA

On parle de discrimination dans l'IA lorsqu'un système d'IA désavantage injustement des personnes en raison de caractéristiques comme le sexe, l'origine, l'âge ou le handicap. Les causes sont généralement des données d'entraînement biaisées, des variables indirectes inadaptées comme le code postal ou l'absence de contrôles ; des cas connus concernent le recrutement et l'octroi de crédits. Les parades : données représentatives, tests d'équité réguliers, transparence et contrôle humain des décisions concernant des personnes.

  • équité
  • biais
  • +1

Réglementation sur la protection des données

La réglementation sur la protection des données regroupe les règles juridiques encadrant le traitement des données personnelles. Dans l'UE, le Règlement général sur la protection des données (RGPD) fait référence ; il exige notamment une base légale pour chaque traitement, la minimisation des données, la transparence envers les personnes concernées et des contrats de sous-traitance avec les prestataires. Avec l'IA, il faut déterminer quelles données entrent dans les saisies, les sources de connaissances et les journaux, et où elles sont traitées.

  • RGPD
  • protection des données
  • +1

Transparence de l'IA

La transparence de l'IA consiste à indiquer quand une IA intervient, sur quelles données et sources reposent ses résultats et comment les décisions sont prises. Elle comprend l'étiquetage des contenus générés, des sources vérifiables, des journaux et des modifications documentées. Elle renforce la confiance, facilite la recherche d'erreurs et est en partie imposée par la loi, par exemple par les obligations de transparence de l'AI Act de l'UE, selon lesquelles les personnes doivent pouvoir savoir qu'elles interagissent avec une IA.

  • Transparence
  • Confiance
  • +1