Pojmovnik

Bias

Što je Bias?

U području UI-ja pristranost označava sustavno iskrivljenje rezultata. Često proizlazi iz neuravnoteženih ili povijesno iskrivljenih podataka za učenje, ali i iz dizajna modela ili načina na koji je pitanje postavljeno. Poznat primjer: alat za probir kandidata koji uči iz prošlih odluka o zapošljavanju može produljiti postojeće nepovoljne položaje. U statistici pristranost označava i odstupanje procjene od stvarne vrijednosti. Protumjere uključuju raznolike podatke, redovite revizije i ljudske odluke u kadrovskim pitanjima.

Teme

Etika UI-ja
Fairness
Kvaliteta podataka

Isprobajte KI.ordo

Agenti, tijekovi rada i predlošci u jednom radnom prostoru – besplatna demo verzija na 24 sata.

Pokrenite demo

← Svi pojmovi

Srodni pojmovi

Diskriminacija u UI-ju

Diskriminacija u UI-ju nastaje kada UI sustav neopravdano stavlja ljude u nepovoljniji položaj na temelju obilježja poput spola, etničkog podrijetla, dobi ili invaliditeta. Uzroci su obično iskrivljeni podaci za treniranje, neprikladna zamjenska obilježja poput poštanskih brojeva ili nedostatak testiranja; poznati slučajevi dolaze iz zapošljavanja i kreditiranja. Protumjere uključuju reprezentativne podatke, redovita testiranja pravednosti, transparentnost i ljudski nadzor nad odlukama o ljudima.

pravednost
pristranost
+1

Podaci za učenje

Podaci za učenje su primjeri iz kojih UI model uči uzorke: velike zbirke tekstova za jezične modele, označene slike za modele slika. Njihova kvaliteta, raznolikost i aktualnost uvelike određuju koliko će model biti pouzdan i pošten te koliko će njegovo znanje biti ažurno. Organizacijama je važno i koristi li pružatelj podatke klijenata koje unesu za daljnje treniranje.

Podaci
Training
+1

Etika UI-ja

Etika UI-ja bavi se moralnim pitanjima razvoja i uporabe UI-ja: pravednošću i diskriminacijom, transparentnošću i objašnjivošću, zaštitom podataka, odgovornošću za pogreške, sigurnošću te utjecajem na rad i društvo. Za organizacije postaje konkretna u smjernicama, procjenama rizika, ljudskom nadzoru i iskrenoj komunikaciji o ograničenjima UI-ja. Primjer: prije uvođenja alata za probir životopisa provjerava se stavlja li određene skupine u nepovoljniji položaj.

Etika
Nadležnost
+1

Objašnjivost

Objašnjivost (objašnjiva UI, XAI) opisuje koliko se dobro može razumjeti zašto je UI sustav došao do određenog rezultata. Obuhvaća metode koje pokazuju koji su unosi najviše utjecali na odluku, kao i praktična pomagala poput navođenja izvora i zapisnika. Objašnjivost je važna za povjerenje, otklanjanje pogrešaka i regulaciju – primjerice kada banka mora obrazložiti zašto je zahtjev odbijen.

XAI
Transparentnost
+1