Ordliste

AI-gennemsigtighed

Hvad er AI-gennemsigtighed?

AI-gennemsigtighed betyder at oplyse, hvornår AI er involveret, hvilke data og kilder dens resultater bygger på, og hvordan beslutninger træffes. Det omfatter mærkning af AI-indhold, sporbare kildehenvisninger, logfiler og dokumenterede ændringer. Gennemsigtighed skaber tillid, letter fejlfinding og er delvis lovpligtig, f.eks. gennem AI-forordningens gennemsigtighedspligter, hvorefter folk skal kunne se, at de interagerer med en AI.

Sådan hjælper KI.ordo

KI.ordo-agenter svarer med kildehenvisninger, flows logger hvert trin, og en revisionslog registrerer ændringer. Websitechatten viser en meddelelse om, at en AI-assistent svarer, så snart den åbnes.

Læs mere

Emner

Gennemsigtighed
Tillid
Sporbarhed

Prøv KI.ordo

Agenter, flows og skabeloner i ét arbejdsområde – gratis demo i 24 timer.

Start demo

← Alle begreber

Relaterede begreber

Algoritmisk gennemsigtighed

Algoritmisk gennemsigtighed betyder, at det er muligt at forstå, hvordan et automatiseret system når frem til et resultat: hvilke data det bruger, hvilke regler det følger, og hvor dets begrænsninger ligger. Det skaber tillid, gør fejl lettere at spore og er i stigende grad et lovkrav, for eksempel gennem oplysningspligterne i GDPR og EU's AI-forordning. I praksis hjælper dokumentation, kildehenvisninger, logfiler og tydelige oplysninger til de berørte.

Gennemsigtighed
AI-etik
+1

Forklarlighed

Forklarlighed (explainable AI, XAI) beskriver, hvor godt man kan forstå, hvorfor et AI-system nåede frem til et bestemt resultat. Det omfatter metoder, der viser, hvilke input der påvirkede en beslutning mest, samt praktiske hjælpemidler som kildehenvisninger og logfiler. Forklarlighed er vigtig for tillid, fejlfinding og regulering – f.eks. når en bank skal begrunde, hvorfor en ansøgning blev afslået.

XAI
Gennemsigtighed
+1

Modelfortolkelighed

Modelfortolkelighed beskriver, hvor godt mennesker kan forstå, hvordan en AI-model når frem til sine resultater. Enkle modeller som beslutningstræer er i sig selv lette at læse; ved komplekse neurale netværk kan teknikker, der afslører de enkelte features' indflydelse, hjælpe. Fortolkelighed er vigtig for fejlfinding, tillid og lovkrav, f.eks. når et afslag på et lån skal begrundes.

forklarbarhed
gennemsigtighed
+1

AI-etik

AI-etik beskæftiger sig med de moralske spørgsmål omkring udvikling og brug af AI: retfærdighed og diskrimination, gennemsigtighed og forklarlighed, databeskyttelse, ansvar for fejl, sikkerhed og konsekvenserne for arbejde og samfund. For organisationer bliver det konkret i retningslinjer, risikovurderinger, menneskeligt tilsyn og ærlig kommunikation om AI's begrænsninger. Eksempel: Før et værktøj til screening af CV'er indføres, kontrolleres det, om det stiller bestemte grupper dårligere.

Etik
Ansvarsområde
+1