Woordenlijst

Interpreteerbaarheid van modellen

Wat is Interpreteerbaarheid van modellen?

Interpreteerbaarheid van modellen beschrijft hoe goed mensen kunnen begrijpen hoe een AI-model tot zijn resultaten komt. Eenvoudige modellen zoals beslisbomen zijn van zichzelf goed leesbaar; bij complexe neurale netwerken kunnen technieken helpen die de invloed van afzonderlijke features zichtbaar maken. Interpreteerbaarheid is belangrijk voor het opsporen van fouten, voor vertrouwen en voor wettelijke eisen, bijvoorbeeld wanneer de afwijzing van een lening gemotiveerd moet worden.

Onderwerpen

verklaarbaarheid
transparantie
vertrouwen

KI.ordo uitproberen

Agents, workflows en sjablonen in één werkruimte – gratis demo van 24 uur.

Demo starten

← Alle begrippen

Verwante begrippen

Verklaarbaarheid

Verklaarbaarheid (explainable AI, XAI) beschrijft in hoeverre te begrijpen is waarom een AI-systeem tot een bepaald resultaat kwam. Het omvat methoden die laten zien welke invoer een beslissing het sterkst heeft beïnvloed, evenals praktische hulpmiddelen zoals bronvermeldingen en logboeken. Verklaarbaarheid is belangrijk voor vertrouwen, foutopsporing en regelgeving – bijvoorbeeld wanneer een bank moet motiveren waarom een aanvraag is afgewezen.

XAI
Transparantie
+1

AI-transparantie

AI-transparantie betekent openheid over wanneer AI wordt ingezet, op welke gegevens en bronnen de resultaten zijn gebaseerd en hoe beslissingen tot stand komen. Dit omvat het labelen van AI-inhoud, naspeurbare bronvermeldingen, logboeken en gedocumenteerde wijzigingen. Transparantie schept vertrouwen, vergemakkelijkt het opsporen van fouten en is deels wettelijk verplicht, bijvoorbeeld door de transparantieverplichtingen van de AI-verordening, op grond waarvan mensen moeten kunnen merken dat ze met een AI communiceren.

Transparantie
Vertrouwen
+1

Algoritmische transparantie

Algoritmische transparantie betekent dat te begrijpen is hoe een geautomatiseerd systeem tot een resultaat komt: welke data het gebruikt, welke regels het volgt en waar zijn grenzen liggen. Dat schept vertrouwen, maakt fouten makkelijker te herleiden en is steeds vaker een wettelijke eis, bijvoorbeeld door informatieplichten op grond van de AVG en de AI-verordening. In de praktijk helpen documentatie, bronvermeldingen, logbestanden en duidelijke informatie voor betrokkenen.

Transparantie
AI-ethiek
+1

Beslisboom

Een beslisboom is een model dat een beslissing weergeeft als een reeks eenvoudige ja/nee-vragen: elke tak toetst één kenmerk en elk blad geeft een uitkomst. Bij machine learning worden zulke bomen automatisch uit data geleerd en gebruikt voor classificatie of voorspelling. Hun grote kracht is transparantie – ze laten bijvoorbeeld zien waarom een kredietaanvraag is gemarkeerd op basis van inkomen, looptijd en betalingsverleden.

Machine learning
Inschatting
+1