Ordliste

Forklarlighed

Hvad er Forklarlighed?

Forklarlighed (explainable AI, XAI) beskriver, hvor godt man kan forstå, hvorfor et AI-system nåede frem til et bestemt resultat. Det omfatter metoder, der viser, hvilke input der påvirkede en beslutning mest, samt praktiske hjælpemidler som kildehenvisninger og logfiler. Forklarlighed er vigtig for tillid, fejlfinding og regulering – f.eks. når en bank skal begrunde, hvorfor en ansøgning blev afslået.

Sådan hjælper KI.ordo

KI.ordo gør resultater sporbare: Agenter angiver deres kilder, og flows logger hvert trin – det viser, hvor et svar kommer fra, men ikke sprogmodellens indre virkemåde.

Læs mere

Emner

XAI
Gennemsigtighed
Tillid

Prøv KI.ordo

Agenter, flows og skabeloner i ét arbejdsområde – gratis demo i 24 timer.

Start demo

← Alle begreber

Relaterede begreber

AI-gennemsigtighed

AI-gennemsigtighed betyder at oplyse, hvornår AI er involveret, hvilke data og kilder dens resultater bygger på, og hvordan beslutninger træffes. Det omfatter mærkning af AI-indhold, sporbare kildehenvisninger, logfiler og dokumenterede ændringer. Gennemsigtighed skaber tillid, letter fejlfinding og er delvis lovpligtig, f.eks. gennem AI-forordningens gennemsigtighedspligter, hvorefter folk skal kunne se, at de interagerer med en AI.

Gennemsigtighed
Tillid
+1

Modelfortolkelighed

Modelfortolkelighed beskriver, hvor godt mennesker kan forstå, hvordan en AI-model når frem til sine resultater. Enkle modeller som beslutningstræer er i sig selv lette at læse; ved komplekse neurale netværk kan teknikker, der afslører de enkelte features' indflydelse, hjælpe. Fortolkelighed er vigtig for fejlfinding, tillid og lovkrav, f.eks. når et afslag på et lån skal begrundes.

forklarbarhed
gennemsigtighed
+1

Algoritmisk gennemsigtighed

Algoritmisk gennemsigtighed betyder, at det er muligt at forstå, hvordan et automatiseret system når frem til et resultat: hvilke data det bruger, hvilke regler det følger, og hvor dets begrænsninger ligger. Det skaber tillid, gør fejl lettere at spore og er i stigende grad et lovkrav, for eksempel gennem oplysningspligterne i GDPR og EU's AI-forordning. I praksis hjælper dokumentation, kildehenvisninger, logfiler og tydelige oplysninger til de berørte.

Gennemsigtighed
AI-etik
+1

AI-etik

AI-etik beskæftiger sig med de moralske spørgsmål omkring udvikling og brug af AI: retfærdighed og diskrimination, gennemsigtighed og forklarlighed, databeskyttelse, ansvar for fejl, sikkerhed og konsekvenserne for arbejde og samfund. For organisationer bliver det konkret i retningslinjer, risikovurderinger, menneskeligt tilsyn og ærlig kommunikation om AI's begrænsninger. Eksempel: Før et værktøj til screening af CV'er indføres, kontrolleres det, om det stiller bestemte grupper dårligere.

Etik
Ansvarsområde
+1