Woordenlijst

Discriminatie in AI

Wat is Discriminatie in AI?

Discriminatie in AI treedt op wanneer een AI-systeem mensen op ongerechtvaardigde wijze benadeelt op basis van kenmerken zoals geslacht, etnische afkomst, leeftijd of beperking. Oorzaken zijn meestal scheve trainingsdata, ongeschikte proxykenmerken zoals postcodes of onvoldoende testen; bekende gevallen komen uit werving en kredietverlening. Tegenmaatregelen zijn representatieve data, regelmatige eerlijkheidstests, transparantie en menselijk toezicht op beslissingen over mensen.

Hoe KI.ordo helpt

In KI.ordo-projecten leveren agents concepten die door mensen worden gecontroleerd en goedgekeurd.

Onderwerpen

eerlijkheid
bias
AI-ethiek

KI.ordo uitproberen

Agents, workflows en sjablonen in één werkruimte – gratis demo van 24 uur.

Demo starten

← Alle begrippen

Verwante begrippen

Bias

In AI verwijst bias naar een systematische vertekening van resultaten. Die komt vaak voort uit onevenwichtige of historisch scheve trainingsdata, maar ook uit het modelontwerp of de manier waarop een vraag wordt gesteld. Een bekend voorbeeld: een tool voor het screenen van sollicitanten die leert van eerdere aannamebeslissingen, kan bestaande achterstelling in stand houden. In de statistiek betekent bias ook de afwijking van een schatting ten opzichte van de werkelijke waarde. Tegenmaatregelen zijn onder meer diverse data, regelmatige audits en menselijke beslissingen over personeelszaken.

AI-ethiek
Fairness
+1

AI-ethiek

AI-ethiek behandelt de morele vragen rond de ontwikkeling en het gebruik van AI: eerlijkheid en discriminatie, transparantie en verklaarbaarheid, gegevensbescherming, verantwoordelijkheid voor fouten, veiligheid en de gevolgen voor werk en samenleving. Voor organisaties wordt het concreet in richtlijnen, risicobeoordelingen, menselijk toezicht en eerlijke communicatie over de grenzen van AI. Voorbeeld: voordat een tool voor cv-screening wordt ingevoerd, wordt gecontroleerd of die bepaalde groepen benadeelt.

Ethiek
Verantwoordelijkheid
+1

Verklaarbaarheid

Verklaarbaarheid (explainable AI, XAI) beschrijft in hoeverre te begrijpen is waarom een AI-systeem tot een bepaald resultaat kwam. Het omvat methoden die laten zien welke invoer een beslissing het sterkst heeft beïnvloed, evenals praktische hulpmiddelen zoals bronvermeldingen en logboeken. Verklaarbaarheid is belangrijk voor vertrouwen, foutopsporing en regelgeving – bijvoorbeeld wanneer een bank moet motiveren waarom een aanvraag is afgewezen.

XAI
Transparantie
+1

Human-in-the-loop

Human-in-the-loop beschrijft workflows waarin mensen op vaste momenten ingrijpen in een AI-proces: ze controleren resultaten, keuren ze goed of corrigeren ze, of nemen moeilijke gevallen over. Het principe verkleint het risico op foute uitvoer en houdt de verantwoordelijkheid bij mensen, vooral bij beslissingen die personen, geld of juridische zaken raken. Voorbeeld: een AI-agent stelt antwoorden op klantvragen op en een medewerker controleert ze voordat ze worden verzonden.

Goedkeuring
Toezicht
+1