Modeļa interpretējamība raksturo, cik labi cilvēki spēj saprast, kā MI modelis nonāk pie saviem rezultātiem. Vienkārši modeļi, piemēram, lēmumu koki, pēc būtības ir viegli lasāmi; sarežģītiem neironu tīkliem var palīdzēt metodes, kas atklāj atsevišķu pazīmju ietekmi. Interpretējamība ir svarīga kļūdu meklēšanai, uzticībai un normatīvajām prasībām, piemēram, ja kredīta atteikums ir jāpamato.
Izskaidrojamība (izskaidrojamais MI, XAI) apraksta, cik labi var saprast, kāpēc MI sistēma nonāca pie konkrēta rezultāta. Tā aptver metodes, kas parāda, kuri ievaddati lēmumu ietekmēja visvairāk, kā arī praktiskus palīglīdzekļus, piemēram, atsauces uz avotiem un žurnālus. Izskaidrojamība ir svarīga uzticībai, kļūdu novēršanai un regulējumam — piemēram, ja bankai jāpamato, kāpēc pieteikums noraidīts.
MI pārredzamība nozīmē atklāt, kad iesaistīts MI, uz kādiem datiem un avotiem balstās tā rezultāti un kā tiek pieņemti lēmumi. Tas ietver MI satura marķēšanu, izsekojamas atsauces uz avotiem, žurnālus un dokumentētas izmaiņas. Pārredzamība veido uzticību, atvieglo kļūdu novēršanu un daļēji ir prasīta ar likumu, piemēram, ES Mākslīgā intelekta akta pārredzamības pienākumos, saskaņā ar kuriem cilvēkiem jāspēj saprast, ka viņi mijiedarbojas ar MI.
Algoritmiskā pārredzamība nozīmē, ka ir iespējams saprast, kā automatizēta sistēma nonāk pie rezultāta: kādus datus tā izmanto, kādiem noteikumiem seko un kur ir tās robežas. Tas vairo uzticēšanos, atvieglo kļūdu izsekošanu un arvien biežāk ir arī tiesiska prasība, piemēram, informēšanas pienākumu dēļ saskaņā ar VDAR un ES Mākslīgā intelekta aktu. Praksē palīdz dokumentācija, avotu norādes, žurnāli un skaidri paziņojumi skartajām personām.
Lēmumu koks ir modelis, kas lēmumu attēlo kā vienkāršu jautājumu „jā/nē” virkni: katrs zars pārbauda vienu pazīmi, un katra lapa dod rezultātu. Mašīnmācīšanās koki tiek apgūti automātiski no datiem un izmantoti klasifikācijai vai prognozēšanai. To galvenā priekšrocība ir pārredzamība — piemēram, tie parāda, kāpēc kredīta pieteikums tika atzīmēts, pamatojoties uz ienākumiem, termiņu un maksājumu vēsturi.
