Slovar pojmov

Preglednost UI

Kaj je Preglednost UI?

Preglednost UI pomeni razkritje, kdaj je UI vključena, na katerih podatkih in virih temeljijo njeni rezultati ter kako se sprejemajo odločitve. To vključuje označevanje vsebin UI, sledljive navedbe virov, dnevnike in dokumentirane spremembe. Preglednost krepi zaupanje, olajša odpravljanje napak in je deloma zahtevana z zakonom, na primer z obveznostmi preglednosti iz Akta EU o umetni inteligenci, po katerih naj bi ljudje lahko prepoznali, da komunicirajo z UI.

Kako pomaga KI.ordo

Agenti KI.ordo odgovarjajo z navedbo virov, poteki dela beležijo vsak korak, revizijska sled pa beleži spremembe. Klepet na spletnem mestu ob odprtju prikaže obvestilo, da odgovarja pomočnik UI.

Več o tem

Teme

Preglednost
Zaupanje
Sledljivost

Preizkusite KI.ordo

Agenti, poteki dela in predloge v enem delovnem prostoru – brezplačna 24-urna predstavitev.

Začni predstavitev

← Vsi pojmi

Sorodni pojmi

Algoritemska preglednost

Algoritemska preglednost pomeni, da je mogoče razumeti, kako avtomatiziran sistem pride do rezultata: katere podatke uporablja, katerim pravilom sledi in kje so njegove meje. To gradi zaupanje, olajša sledenje napakam in je vse pogosteje zakonska zahteva, na primer prek obveznosti obveščanja po GDPR in Aktu EU o umetni inteligenci. V praksi pomagajo dokumentacija, navajanje virov, dnevniki in jasna obvestila za prizadete osebe.

Preglednost
Etika UI
+1

Razložljivost

Razložljivost (explainable AI, XAI) opisuje, kako dobro je mogoče razumeti, zakaj je sistem UI prišel do določenega rezultata. Zajema metode, ki pokažejo, kateri vhodni podatki so odločitev najbolj vplivali, pa tudi praktične pripomočke, kot so navedbe virov in dnevniki. Razložljivost je pomembna za zaupanje, odpravljanje napak in regulacijo – na primer kadar mora banka utemeljiti, zakaj je zavrnila vlogo.

XAI
Preglednost
+1

Razložljivost delovanja modela

Razložljivost delovanja modela opisuje, kako dobro ljudje razumejo, kako model UI pride do svojih rezultatov. Preprosti modeli, kot so odločitvena drevesa, so že po naravi lahko berljivi; pri kompleksnih nevronskih mrežah pomagajo tehnike, ki razkrijejo vpliv posameznih značilnic. Razložljivost je pomembna za odpravljanje napak, zaupanje in regulativne zahteve, na primer kadar je treba utemeljiti zavrnitev posojila.

pojasnljivost
preglednost
+1

Etika UI

Etika UI se ukvarja z moralnimi vprašanji ob razvoju in uporabi UI: pravičnost in diskriminacija, preglednost in razložljivost, varstvo podatkov, odgovornost za napake, varnost ter učinki na delo in družbo. Za organizacije se konkretizira v smernicah, ocenah tveganja, človeškem nadzoru in poštenem komuniciranju o omejitvah UI. Primer: preden se uvede orodje za pregledovanje življenjepisov, se preveri, ali morda postavlja določene skupine v slabši položaj.

Etika
Pristojnost
+1