Modelltolkbarhet beskriver hur väl människor kan förstå hur en AI-modell kommer fram till sina resultat. Enkla modeller som beslutsträd är i sig lätta att läsa; för komplexa neurala nätverk kan tekniker som visar enskilda särdrags inverkan hjälpa. Tolkbarhet är viktig för felsökning, förtroende och regelkrav, till exempel när ett avslag på ett lån måste motiveras.
Förklarbarhet (förklarbar AI, XAI) beskriver hur väl man kan förstå varför ett AI-system kom fram till ett visst resultat. Det omfattar metoder som visar vilka indata som påverkade ett beslut mest, liksom praktiska hjälpmedel som källhänvisningar och loggar. Förklarbarhet är viktig för förtroende, felsökning och reglering – till exempel när en bank måste motivera varför en ansökan avslagits.
AI-transparens innebär att öppet redovisa när AI är inblandad, vilka data och källor dess resultat bygger på och hur beslut fattas. Det omfattar märkning av AI-innehåll, spårbara källhänvisningar, loggar och dokumenterade ändringar. Transparens skapar förtroende, underlättar felsökning och krävs delvis enligt lag, till exempel genom transparenskraven i EU:s AI-förordning, enligt vilka människor ska kunna se att de interagerar med en AI.
Algoritmisk transparens innebär att det går att förstå hur ett automatiserat system kommer fram till ett resultat: vilka data det använder, vilka regler det följer och var dess begränsningar finns. Det skapar förtroende, gör fel lättare att spåra och är i allt högre grad ett lagkrav, till exempel genom informationsskyldigheter enligt GDPR och EU:s AI-förordning. I praktiken hjälper dokumentation, källhänvisningar, loggar och tydlig information till berörda personer.
Ett beslutsträd är en modell som beskriver ett beslut som en följd av enkla ja/nej-frågor: varje gren testar en egenskap och varje löv ger ett utfall. Inom maskininlärning lärs sådana träd automatiskt från data och används för klassificering eller prognoser. Deras främsta styrka är transparens – de kan till exempel visa varför en låneansökan flaggades utifrån inkomst, löptid och betalningshistorik.
