Modelfortolkelighed beskriver, hvor godt mennesker kan forstå, hvordan en AI-model når frem til sine resultater. Enkle modeller som beslutningstræer er i sig selv lette at læse; ved komplekse neurale netværk kan teknikker, der afslører de enkelte features' indflydelse, hjælpe. Fortolkelighed er vigtig for fejlfinding, tillid og lovkrav, f.eks. når et afslag på et lån skal begrundes.
Forklarlighed (explainable AI, XAI) beskriver, hvor godt man kan forstå, hvorfor et AI-system nåede frem til et bestemt resultat. Det omfatter metoder, der viser, hvilke input der påvirkede en beslutning mest, samt praktiske hjælpemidler som kildehenvisninger og logfiler. Forklarlighed er vigtig for tillid, fejlfinding og regulering – f.eks. når en bank skal begrunde, hvorfor en ansøgning blev afslået.
AI-gennemsigtighed betyder at oplyse, hvornår AI er involveret, hvilke data og kilder dens resultater bygger på, og hvordan beslutninger træffes. Det omfatter mærkning af AI-indhold, sporbare kildehenvisninger, logfiler og dokumenterede ændringer. Gennemsigtighed skaber tillid, letter fejlfinding og er delvis lovpligtig, f.eks. gennem AI-forordningens gennemsigtighedspligter, hvorefter folk skal kunne se, at de interagerer med en AI.
Algoritmisk gennemsigtighed betyder, at det er muligt at forstå, hvordan et automatiseret system når frem til et resultat: hvilke data det bruger, hvilke regler det følger, og hvor dets begrænsninger ligger. Det skaber tillid, gør fejl lettere at spore og er i stigende grad et lovkrav, for eksempel gennem oplysningspligterne i GDPR og EU's AI-forordning. I praksis hjælper dokumentation, kildehenvisninger, logfiler og tydelige oplysninger til de berørte.
Et beslutningstræ er en model, der fremstiller en beslutning som en række enkle ja/nej-spørgsmål: Hver gren tester ét træk, og hvert blad giver et udfald. I maskinlæring læres sådanne træer automatisk ud fra data og bruges til klassifikation eller prognoser. Deres største styrke er gennemsigtighed – f.eks. kan de vise, hvorfor en låneansøgning blev markeret ud fra indkomst, løbetid og betalingshistorik.
