Razložljivost delovanja modela opisuje, kako dobro ljudje razumejo, kako model UI pride do svojih rezultatov. Preprosti modeli, kot so odločitvena drevesa, so že po naravi lahko berljivi; pri kompleksnih nevronskih mrežah pomagajo tehnike, ki razkrijejo vpliv posameznih značilnic. Razložljivost je pomembna za odpravljanje napak, zaupanje in regulativne zahteve, na primer kadar je treba utemeljiti zavrnitev posojila.
Agenti, poteki dela in predloge v enem delovnem prostoru – brezplačna 24-urna predstavitev.
Začni predstavitevRazložljivost (explainable AI, XAI) opisuje, kako dobro je mogoče razumeti, zakaj je sistem UI prišel do določenega rezultata. Zajema metode, ki pokažejo, kateri vhodni podatki so odločitev najbolj vplivali, pa tudi praktične pripomočke, kot so navedbe virov in dnevniki. Razložljivost je pomembna za zaupanje, odpravljanje napak in regulacijo – na primer kadar mora banka utemeljiti, zakaj je zavrnila vlogo.
Preglednost UI pomeni razkritje, kdaj je UI vključena, na katerih podatkih in virih temeljijo njeni rezultati ter kako se sprejemajo odločitve. To vključuje označevanje vsebin UI, sledljive navedbe virov, dnevnike in dokumentirane spremembe. Preglednost krepi zaupanje, olajša odpravljanje napak in je deloma zahtevana z zakonom, na primer z obveznostmi preglednosti iz Akta EU o umetni inteligenci, po katerih naj bi ljudje lahko prepoznali, da komunicirajo z UI.
Algoritemska preglednost pomeni, da je mogoče razumeti, kako avtomatiziran sistem pride do rezultata: katere podatke uporablja, katerim pravilom sledi in kje so njegove meje. To gradi zaupanje, olajša sledenje napakam in je vse pogosteje zakonska zahteva, na primer prek obveznosti obveščanja po GDPR in Aktu EU o umetni inteligenci. V praksi pomagajo dokumentacija, navajanje virov, dnevniki in jasna obvestila za prizadete osebe.
Odločitveno drevo je model, ki odločitev predstavi kot zaporedje preprostih vprašanj z da/ne: vsaka veja preverja eno značilnost, vsak list pa podaja izid. Pri strojnem učenju se takšna drevesa samodejno naučijo iz podatkov in uporabljajo za klasifikacijo ali napovedovanje. Njihova glavna prednost je preglednost – na primer pokažejo, zakaj je bila prošnja za posojilo označena na podlagi dohodka, ročnosti in zgodovine plačil.
