Pojmovnik

Diskriminacija u UI-ju

Što je Diskriminacija u UI-ju?

Diskriminacija u UI-ju nastaje kada UI sustav neopravdano stavlja ljude u nepovoljniji položaj na temelju obilježja poput spola, etničkog podrijetla, dobi ili invaliditeta. Uzroci su obično iskrivljeni podaci za treniranje, neprikladna zamjenska obilježja poput poštanskih brojeva ili nedostatak testiranja; poznati slučajevi dolaze iz zapošljavanja i kreditiranja. Protumjere uključuju reprezentativne podatke, redovita testiranja pravednosti, transparentnost i ljudski nadzor nad odlukama o ljudima.

Kako KI.ordo pomaže

U projektima u KI.ordo agenti isporučuju nacrte koje ljudi pregledavaju i odobravaju.

Teme

pravednost
pristranost
Etika UI-ja

Isprobajte KI.ordo

Agenti, tijekovi rada i predlošci u jednom radnom prostoru – besplatna demo verzija na 24 sata.

Pokrenite demo

← Svi pojmovi

Srodni pojmovi

Bias

U području UI-ja pristranost označava sustavno iskrivljenje rezultata. Često proizlazi iz neuravnoteženih ili povijesno iskrivljenih podataka za učenje, ali i iz dizajna modela ili načina na koji je pitanje postavljeno. Poznat primjer: alat za probir kandidata koji uči iz prošlih odluka o zapošljavanju može produljiti postojeće nepovoljne položaje. U statistici pristranost označava i odstupanje procjene od stvarne vrijednosti. Protumjere uključuju raznolike podatke, redovite revizije i ljudske odluke u kadrovskim pitanjima.

Etika UI-ja
Fairness
+1

Etika UI-ja

Etika UI-ja bavi se moralnim pitanjima razvoja i uporabe UI-ja: pravednošću i diskriminacijom, transparentnošću i objašnjivošću, zaštitom podataka, odgovornošću za pogreške, sigurnošću te utjecajem na rad i društvo. Za organizacije postaje konkretna u smjernicama, procjenama rizika, ljudskom nadzoru i iskrenoj komunikaciji o ograničenjima UI-ja. Primjer: prije uvođenja alata za probir životopisa provjerava se stavlja li određene skupine u nepovoljniji položaj.

Etika
Nadležnost
+1

Objašnjivost

Objašnjivost (objašnjiva UI, XAI) opisuje koliko se dobro može razumjeti zašto je UI sustav došao do određenog rezultata. Obuhvaća metode koje pokazuju koji su unosi najviše utjecali na odluku, kao i praktična pomagala poput navođenja izvora i zapisnika. Objašnjivost je važna za povjerenje, otklanjanje pogrešaka i regulaciju – primjerice kada banka mora obrazložiti zašto je zahtjev odbijen.

XAI
Transparentnost
+1

Čovjek u petlji (human-in-the-loop)

Čovjek u petlji (human-in-the-loop) opisuje tijekove rada u kojima ljudi na definiranim točkama ulaze u UI proces: pregledavaju rezultate, odobravaju ih ili ispravljaju, ili preuzimaju zahtjevne slučajeve. Načelo smanjuje rizik od pogrešnih izlaza i zadržava odgovornost kod ljudi, osobito kod odluka koje se tiču pojedinaca, novca ili pravnih pitanja. Primjer: UI agent izrađuje nacrte odgovora na upite klijenata, a djelatnik ih provjerava prije slanja.

Odobrenje
Nadzor
+1