Mudeli tõlgendatavus kirjeldab, kui hästi inimesed saavad aru, kuidas TI-mudel oma tulemusteni jõuab. Lihtsad mudelid, näiteks otsustuspuud, on olemuselt hästi loetavad; keeruliste närvivõrkude puhul võivad aidata meetodid, mis toovad esile üksikute tunnuste mõju. Tõlgendatavus on oluline silumisel, usalduse loomisel ja regulatiivsete nõuete täitmisel, näiteks kui laenutaotluse tagasilükkamist tuleb põhjendada.
Selgitatavus (explainable AI, XAI) kirjeldab, kui hästi on võimalik mõista, miks TI-süsteem jõudis konkreetse tulemuseni. See hõlmab meetodeid, mis näitavad, millised sisendid otsust enim mõjutasid, ning praktilisi abivahendeid, nagu allikaviited ja logid. Selgitatavus on oluline usalduse, veaotsingu ja regulatsiooni jaoks – näiteks kui pank peab põhjendama, miks avaldus rahuldamata jäi.
TI läbipaistvus tähendab avalikustamist, millal TI on kaasatud, milliste andmete ja allikate peal selle tulemused põhinevad ning kuidas otsuseni jõutakse. See hõlmab TI-sisu märgistamist, jälgitavaid allikaviiteid, logisid ja dokumenteeritud muudatusi. Läbipaistvus loob usaldust, lihtsustab veaotsingut ning on osaliselt nõutud ka seadusega, näiteks ELi tehisintellekti määruse läbipaistvuskohustustega, mille kohaselt peaksid inimesed aru saama, et nad suhtlevad TI-ga.
Algoritmiline läbipaistvus tähendab, et on võimalik mõista, kuidas automatiseeritud süsteem tulemuseni jõuab: milliseid andmeid see kasutab, milliseid reegleid järgib ja kus on selle piirid. See loob usaldust, muudab vead kergemini jälgitavaks ja on üha enam ka õiguslik nõue, näiteks IKÜMi ja ELi tehisintellekti määruse teavitamiskohustuste kaudu. Praktikas aitavad dokumentatsioon, allikaviited, logid ja selged teated puudutatud isikutele.
Otsustuspuu on mudel, mis kujutab otsust lihtsate jah/ei-küsimuste jadana: iga haru kontrollib ühte tunnust ja iga leht annab tulemuse. Masinõppes õpitakse sellised puud andmetest automaatselt ja neid kasutatakse klassifitseerimiseks või prognoosimiseks. Nende peamine tugevus on läbipaistvus – näiteks näitavad need, miks laenutaotlus sissetuleku, tähtaja ja maksete ajaloo põhjal märgiti.
