Woordenlijst

AI en mensenrechten

Wat is AI en mensenrechten?

De term beschrijft hoe AI-systemen mensenrechten zoals privacy, gelijke behandeling, vrijheid van meningsuiting of eerlijke procesvoering kunnen beïnvloeden, zowel positief als negatief. Risico’s ontstaan bijvoorbeeld door discriminerende beslissingen, massasurveillance, biometrische identificatie of een gebrek aan mogelijkheden om beslissingen aan te vechten. Internationale kaders zoals het Kaderverdrag inzake AI van de Raad van Europa en de AI-verordening richten zich op deze kwesties. Organisaties reageren met effectbeoordelingen, transparantie en menselijk toezicht.

Onderwerpen

  • Ethiek
  • Grondrechten
  • Regelgeving

KI.ordo uitproberen

Agents, workflows en sjablonen in één werkruimte – gratis demo van 24 uur.

Demo starten
← Alle begrippen

Verwante begrippen

AI-ethiek

AI-ethiek behandelt de morele vragen rond de ontwikkeling en het gebruik van AI: eerlijkheid en discriminatie, transparantie en verklaarbaarheid, gegevensbescherming, verantwoordelijkheid voor fouten, veiligheid en de gevolgen voor werk en samenleving. Voor organisaties wordt het concreet in richtlijnen, risicobeoordelingen, menselijk toezicht en eerlijke communicatie over de grenzen van AI. Voorbeeld: voordat een tool voor cv-screening wordt ingevoerd, wordt gecontroleerd of die bepaalde groepen benadeelt.

  • Ethiek
  • Verantwoordelijkheid
  • +1

Discriminatie in AI

Discriminatie in AI treedt op wanneer een AI-systeem mensen op ongerechtvaardigde wijze benadeelt op basis van kenmerken zoals geslacht, etnische afkomst, leeftijd of beperking. Oorzaken zijn meestal scheve trainingsdata, ongeschikte proxykenmerken zoals postcodes of onvoldoende testen; bekende gevallen komen uit werving en kredietverlening. Tegenmaatregelen zijn representatieve data, regelmatige eerlijkheidstests, transparantie en menselijk toezicht op beslissingen over mensen.

  • eerlijkheid
  • bias
  • +1

Regelgeving voor gegevensbescherming

Regelgeving voor gegevensbescherming bestaat uit wettelijke regels voor de omgang met persoonsgegevens. In de EU is de Algemene verordening gegevensbescherming (AVG) het belangrijkste kader; die vereist onder meer een rechtsgrond voor elke verwerking, minimale gegevensverwerking, transparantie jegens betrokkenen en verwerkersovereenkomsten met dienstverleners. Bij het gebruik van AI moeten organisaties duidelijk maken welke gegevens in invoer, kennisbronnen en logboeken terechtkomen en waar ze worden verwerkt.

  • AVG
  • gegevensbescherming
  • +1

AI-transparantie

AI-transparantie betekent openheid over wanneer AI wordt ingezet, op welke gegevens en bronnen de resultaten zijn gebaseerd en hoe beslissingen tot stand komen. Dit omvat het labelen van AI-inhoud, naspeurbare bronvermeldingen, logboeken en gedocumenteerde wijzigingen. Transparantie schept vertrouwen, vergemakkelijkt het opsporen van fouten en is deels wettelijk verplicht, bijvoorbeeld door de transparantieverplichtingen van de AI-verordening, op grond waarvan mensen moeten kunnen merken dat ze met een AI communiceren.

  • Transparantie
  • Vertrouwen
  • +1