Slovar pojmov

Razložljivost

Kaj je Razložljivost?

Razložljivost (explainable AI, XAI) opisuje, kako dobro je mogoče razumeti, zakaj je sistem UI prišel do določenega rezultata. Zajema metode, ki pokažejo, kateri vhodni podatki so odločitev najbolj vplivali, pa tudi praktične pripomočke, kot so navedbe virov in dnevniki. Razložljivost je pomembna za zaupanje, odpravljanje napak in regulacijo – na primer kadar mora banka utemeljiti, zakaj je zavrnila vlogo.

Kako pomaga KI.ordo

KI.ordo omogoča sledljive rezultate: agenti navajajo svoje vire, poteki dela pa beležijo vsak korak – to pokaže, od kod je odgovor prišel, ne pa notranjega delovanja jezikovnega modela.

Več o tem

Teme

XAI
Preglednost
Zaupanje

Preizkusite KI.ordo

Agenti, poteki dela in predloge v enem delovnem prostoru – brezplačna 24-urna predstavitev.

Začni predstavitev

← Vsi pojmi

Sorodni pojmi

Preglednost UI

Preglednost UI pomeni razkritje, kdaj je UI vključena, na katerih podatkih in virih temeljijo njeni rezultati ter kako se sprejemajo odločitve. To vključuje označevanje vsebin UI, sledljive navedbe virov, dnevnike in dokumentirane spremembe. Preglednost krepi zaupanje, olajša odpravljanje napak in je deloma zahtevana z zakonom, na primer z obveznostmi preglednosti iz Akta EU o umetni inteligenci, po katerih naj bi ljudje lahko prepoznali, da komunicirajo z UI.

Preglednost
Zaupanje
+1

Razložljivost delovanja modela

Razložljivost delovanja modela opisuje, kako dobro ljudje razumejo, kako model UI pride do svojih rezultatov. Preprosti modeli, kot so odločitvena drevesa, so že po naravi lahko berljivi; pri kompleksnih nevronskih mrežah pomagajo tehnike, ki razkrijejo vpliv posameznih značilnic. Razložljivost je pomembna za odpravljanje napak, zaupanje in regulativne zahteve, na primer kadar je treba utemeljiti zavrnitev posojila.

pojasnljivost
preglednost
+1

Algoritemska preglednost

Algoritemska preglednost pomeni, da je mogoče razumeti, kako avtomatiziran sistem pride do rezultata: katere podatke uporablja, katerim pravilom sledi in kje so njegove meje. To gradi zaupanje, olajša sledenje napakam in je vse pogosteje zakonska zahteva, na primer prek obveznosti obveščanja po GDPR in Aktu EU o umetni inteligenci. V praksi pomagajo dokumentacija, navajanje virov, dnevniki in jasna obvestila za prizadete osebe.

Preglednost
Etika UI
+1

Etika UI

Etika UI se ukvarja z moralnimi vprašanji ob razvoju in uporabi UI: pravičnost in diskriminacija, preglednost in razložljivost, varstvo podatkov, odgovornost za napake, varnost ter učinki na delo in družbo. Za organizacije se konkretizira v smernicah, ocenah tveganja, človeškem nadzoru in poštenem komuniciranju o omejitvah UI. Primer: preden se uvede orodje za pregledovanje življenjepisov, se preveri, ali morda postavlja določene skupine v slabši položaj.

Etika
Pristojnost
+1