Slovar pojmov

Bias

Kaj je Bias?

Pristranskost (bias) na področju UI pomeni sistematično izkrivljanje rezultatov. Pogosto izvira iz neuravnoteženih ali zgodovinsko izkrivljenih učnih podatkov, pa tudi iz zasnove modela ali načina, kako je vprašanje zastavljeno. Znan primer: orodje za izbor kandidatov, ki se uči iz preteklih zaposlitvenih odločitev, lahko ohranja obstoječe neenakosti. V statistiki pristranskost pomeni tudi odstopanje ocene od prave vrednosti. Protiukrepi vključujejo raznolike podatke, redne revizije in človeške odločitve o kadrovskih zadevah.

Teme

Etika UI
Fairness
Kakovost podatkov

Preizkusite KI.ordo

Agenti, poteki dela in predloge v enem delovnem prostoru – brezplačna 24-urna predstavitev.

Začni predstavitev

← Vsi pojmi

Sorodni pojmi

Diskriminacija pri UI

O diskriminaciji pri UI govorimo, kadar sistem UI neupravičeno postavlja ljudi v slabši položaj zaradi lastnosti, kot so spol, etnično poreklo, starost ali invalidnost. Vzroki so običajno izkrivljeni učni podatki, neprimerne nadomestne značilnosti, kot so poštne številke, ali pomanjkljivo testiranje; znani primeri izvirajo iz zaposlovanja in kreditiranja. Protiukrepi so reprezentativni podatki, redno preizkušanje pravičnosti, preglednost in človeški nadzor nad odločitvami o ljudeh.

pravičnost
pristranskost
+1

Podatki za učenje

Podatki za učenje so primeri, iz katerih se model UI uči vzorcev: velike zbirke besedil za jezikovne modele, označene slike za slikovne modele. Njihova kakovost, raznolikost in aktualnost v veliki meri določajo, kako zanesljiv in pošten je model ter kako sodobno je njegovo znanje. Za organizacije je pomembno tudi, ali ponudnik vnesene podatke strank uporablja za nadaljnje učenje.

Podatki
Training
+1

Etika UI

Etika UI se ukvarja z moralnimi vprašanji ob razvoju in uporabi UI: pravičnost in diskriminacija, preglednost in razložljivost, varstvo podatkov, odgovornost za napake, varnost ter učinki na delo in družbo. Za organizacije se konkretizira v smernicah, ocenah tveganja, človeškem nadzoru in poštenem komuniciranju o omejitvah UI. Primer: preden se uvede orodje za pregledovanje življenjepisov, se preveri, ali morda postavlja določene skupine v slabši položaj.

Etika
Pristojnost
+1

Razložljivost

Razložljivost (explainable AI, XAI) opisuje, kako dobro je mogoče razumeti, zakaj je sistem UI prišel do določenega rezultata. Zajema metode, ki pokažejo, kateri vhodni podatki so odločitev najbolj vplivali, pa tudi praktične pripomočke, kot so navedbe virov in dnevniki. Razložljivost je pomembna za zaupanje, odpravljanje napak in regulacijo – na primer kadar mora banka utemeljiti, zakaj je zavrnila vlogo.

XAI
Preglednost
+1