Slovar pojmov

UI in človekove pravice

Kaj je UI in človekove pravice?

Izraz opisuje, kako lahko sistemi UI vplivajo na človekove pravice, kot so zasebnost, enako obravnavanje, svoboda izražanja ali pošteni postopki, pozitivno in negativno. Tveganja nastanejo na primer zaradi diskriminatornih odločitev, množičnega nadzora, biometrične identifikacije ali pomanjkanja možnosti za izpodbijanje odločitev. Ta vprašanja obravnavajo mednarodni okviri, kot sta Okvirna konvencija Sveta Evrope o UI in Akt EU o umetni inteligenci. Organizacije se odzivajo z ocenami učinkov, preglednostjo in človeškim nadzorom.

Teme

Etika
Temeljne pravice
Regulacija

Preizkusite KI.ordo

Agenti, poteki dela in predloge v enem delovnem prostoru – brezplačna 24-urna predstavitev.

Začni predstavitev

← Vsi pojmi

Sorodni pojmi

Etika UI

Etika UI se ukvarja z moralnimi vprašanji ob razvoju in uporabi UI: pravičnost in diskriminacija, preglednost in razložljivost, varstvo podatkov, odgovornost za napake, varnost ter učinki na delo in družbo. Za organizacije se konkretizira v smernicah, ocenah tveganja, človeškem nadzoru in poštenem komuniciranju o omejitvah UI. Primer: preden se uvede orodje za pregledovanje življenjepisov, se preveri, ali morda postavlja določene skupine v slabši položaj.

Etika
Pristojnost
+1

Diskriminacija pri UI

O diskriminaciji pri UI govorimo, kadar sistem UI neupravičeno postavlja ljudi v slabši položaj zaradi lastnosti, kot so spol, etnično poreklo, starost ali invalidnost. Vzroki so običajno izkrivljeni učni podatki, neprimerne nadomestne značilnosti, kot so poštne številke, ali pomanjkljivo testiranje; znani primeri izvirajo iz zaposlovanja in kreditiranja. Protiukrepi so reprezentativni podatki, redno preizkušanje pravičnosti, preglednost in človeški nadzor nad odločitvami o ljudeh.

pravičnost
pristranskost
+1

Predpisi o varstvu podatkov

Predpisi o varstvu podatkov so pravna pravila o ravnanju z osebnimi podatki. V EU je ključni okvir Splošna uredba o varstvu podatkov (GDPR); med drugim zahteva pravno podlago za vsako obdelavo, najmanjši obseg podatkov, preglednost do posameznikov, na katere se podatki nanašajo, in pogodbe o obdelavi osebnih podatkov z ponudniki storitev. Pri uporabi UI morajo organizacije razjasniti, kateri podatki pristanejo v vnosih, virih znanja in dnevnikih ter kje se obdelujejo.

GDPR
varstvo podatkov
+1

Preglednost UI

Preglednost UI pomeni razkritje, kdaj je UI vključena, na katerih podatkih in virih temeljijo njeni rezultati ter kako se sprejemajo odločitve. To vključuje označevanje vsebin UI, sledljive navedbe virov, dnevnike in dokumentirane spremembe. Preglednost krepi zaupanje, olajša odpravljanje napak in je deloma zahtevana z zakonom, na primer z obveznostmi preglednosti iz Akta EU o umetni inteligenci, po katerih naj bi ljudje lahko prepoznali, da komunicirajo z UI.

Preglednost
Zaupanje
+1