Slovar pojmov

Diskriminacija pri UI

Kaj je Diskriminacija pri UI?

O diskriminaciji pri UI govorimo, kadar sistem UI neupravičeno postavlja ljudi v slabši položaj zaradi lastnosti, kot so spol, etnično poreklo, starost ali invalidnost. Vzroki so običajno izkrivljeni učni podatki, neprimerne nadomestne značilnosti, kot so poštne številke, ali pomanjkljivo testiranje; znani primeri izvirajo iz zaposlovanja in kreditiranja. Protiukrepi so reprezentativni podatki, redno preizkušanje pravičnosti, preglednost in človeški nadzor nad odločitvami o ljudeh.

Kako pomaga KI.ordo

V projektih KI.ordo agenti pripravijo osnutke, ki jih ljudje pregledajo in odobrijo.

Teme

pravičnost
pristranskost
Etika UI

Preizkusite KI.ordo

Agenti, poteki dela in predloge v enem delovnem prostoru – brezplačna 24-urna predstavitev.

Začni predstavitev

← Vsi pojmi

Sorodni pojmi

Bias

Pristranskost (bias) na področju UI pomeni sistematično izkrivljanje rezultatov. Pogosto izvira iz neuravnoteženih ali zgodovinsko izkrivljenih učnih podatkov, pa tudi iz zasnove modela ali načina, kako je vprašanje zastavljeno. Znan primer: orodje za izbor kandidatov, ki se uči iz preteklih zaposlitvenih odločitev, lahko ohranja obstoječe neenakosti. V statistiki pristranskost pomeni tudi odstopanje ocene od prave vrednosti. Protiukrepi vključujejo raznolike podatke, redne revizije in človeške odločitve o kadrovskih zadevah.

Etika UI
Fairness
+1

Etika UI

Etika UI se ukvarja z moralnimi vprašanji ob razvoju in uporabi UI: pravičnost in diskriminacija, preglednost in razložljivost, varstvo podatkov, odgovornost za napake, varnost ter učinki na delo in družbo. Za organizacije se konkretizira v smernicah, ocenah tveganja, človeškem nadzoru in poštenem komuniciranju o omejitvah UI. Primer: preden se uvede orodje za pregledovanje življenjepisov, se preveri, ali morda postavlja določene skupine v slabši položaj.

Etika
Pristojnost
+1

Razložljivost

Razložljivost (explainable AI, XAI) opisuje, kako dobro je mogoče razumeti, zakaj je sistem UI prišel do določenega rezultata. Zajema metode, ki pokažejo, kateri vhodni podatki so odločitev najbolj vplivali, pa tudi praktične pripomočke, kot so navedbe virov in dnevniki. Razložljivost je pomembna za zaupanje, odpravljanje napak in regulacijo – na primer kadar mora banka utemeljiti, zakaj je zavrnila vlogo.

XAI
Preglednost
+1

Človek v zanki

Človek v zanki (human-in-the-loop) opisuje poteke dela, pri katerih ljudje na določenih točkah vstopijo v proces UI: pregledajo rezultate, jih odobrijo ali popravijo ali prevzamejo težke primere. Načelo zmanjšuje tveganje napačnih izpisov in odgovornost ohranja pri ljudeh, zlasti pri odločitvah, ki zadevajo posameznike, denar ali pravne zadeve. Primer: agent UI pripravi osnutke odgovorov na povpraševanja strank, sodelavec pa jih pred pošiljanjem preveri.

Odobritev
Nadzor
+1