Pojmovnik

Objašnjivost

Što je Objašnjivost?

Objašnjivost (objašnjiva UI, XAI) opisuje koliko se dobro može razumjeti zašto je UI sustav došao do određenog rezultata. Obuhvaća metode koje pokazuju koji su unosi najviše utjecali na odluku, kao i praktična pomagala poput navođenja izvora i zapisnika. Objašnjivost je važna za povjerenje, otklanjanje pogrešaka i regulaciju – primjerice kada banka mora obrazložiti zašto je zahtjev odbijen.

Kako KI.ordo pomaže

KI.ordo čini rezultate sljedivima: agenti navode svoje izvore, a tijekovi rada bilježe svaki korak – to pokazuje odakle odgovor dolazi, ali ne i unutarnji rad jezičnog modela.

Saznajte više

Teme

XAI
Transparentnost
Povjerenje

Isprobajte KI.ordo

Agenti, tijekovi rada i predlošci u jednom radnom prostoru – besplatna demo verzija na 24 sata.

Pokrenite demo

← Svi pojmovi

Srodni pojmovi

Transparentnost UI-ja

Transparentnost UI-ja znači otkrivanje kada je UI uključen, na kojim se podacima i izvorima temelje njegovi rezultati i kako se donose odluke. To uključuje označavanje UI sadržaja, sljedive navode izvora, zapisnike i dokumentirane promjene. Transparentnost gradi povjerenje, olakšava otklanjanje pogrešaka i dijelom je propisana zakonom, primjerice obvezama transparentnosti iz Akta EU-a o umjetnoj inteligenciji, prema kojima ljudi trebaju moći prepoznati da komuniciraju s UI-jem.

Transparentnost
Povjerenje
+1

Interpretabilnost modela

Interpretabilnost modela opisuje koliko dobro ljudi mogu razumjeti kako UI model dolazi do svojih rezultata. Jednostavne modele, poput stabala odlučivanja, po prirodi je lako pročitati; kod složenih neuronskih mreža mogu pomoći tehnike koje otkrivaju utjecaj pojedinih značajki. Interpretabilnost je važna za otklanjanje pogrešaka, povjerenje i regulatorne zahtjeve, primjerice kada treba obrazložiti odbijanje kredita.

objašnjivost
transparentnost
+1

Algoritamska transparentnost

Algoritamska transparentnost znači da je moguće razumjeti kako automatizirani sustav dolazi do rezultata: koje podatke koristi, koja pravila slijedi i gdje su mu granice. To gradi povjerenje, olakšava praćenje pogrešaka i sve je češće zakonski zahtjev, primjerice kroz obveze informiranja prema GDPR-u i Aktu EU-a o umjetnoj inteligenciji. U praksi pomažu dokumentacija, navođenje izvora, zapisi i jasne obavijesti za osobe na koje se to odnosi.

Transparentnost
Etika UI-ja
+1

Etika UI-ja

Etika UI-ja bavi se moralnim pitanjima razvoja i uporabe UI-ja: pravednošću i diskriminacijom, transparentnošću i objašnjivošću, zaštitom podataka, odgovornošću za pogreške, sigurnošću te utjecajem na rad i društvo. Za organizacije postaje konkretna u smjernicama, procjenama rizika, ljudskom nadzoru i iskrenoj komunikaciji o ograničenjima UI-ja. Primjer: prije uvođenja alata za probir životopisa provjerava se stavlja li određene skupine u nepovoljniji položaj.

Etika
Nadležnost
+1