Etika UI se ukvarja z moralnimi vprašanji ob razvoju in uporabi UI: pravičnost in diskriminacija, preglednost in razložljivost, varstvo podatkov, odgovornost za napake, varnost ter učinki na delo in družbo. Za organizacije se konkretizira v smernicah, ocenah tveganja, človeškem nadzoru in poštenem komuniciranju o omejitvah UI. Primer: preden se uvede orodje za pregledovanje življenjepisov, se preveri, ali morda postavlja določene skupine v slabši položaj.
Agenti, poteki dela in predloge v enem delovnem prostoru – brezplačna 24-urna predstavitev.
Začni predstavitevPristranskost (bias) na področju UI pomeni sistematično izkrivljanje rezultatov. Pogosto izvira iz neuravnoteženih ali zgodovinsko izkrivljenih učnih podatkov, pa tudi iz zasnove modela ali načina, kako je vprašanje zastavljeno. Znan primer: orodje za izbor kandidatov, ki se uči iz preteklih zaposlitvenih odločitev, lahko ohranja obstoječe neenakosti. V statistiki pristranskost pomeni tudi odstopanje ocene od prave vrednosti. Protiukrepi vključujejo raznolike podatke, redne revizije in človeške odločitve o kadrovskih zadevah.
Preglednost UI pomeni razkritje, kdaj je UI vključena, na katerih podatkih in virih temeljijo njeni rezultati ter kako se sprejemajo odločitve. To vključuje označevanje vsebin UI, sledljive navedbe virov, dnevnike in dokumentirane spremembe. Preglednost krepi zaupanje, olajša odpravljanje napak in je deloma zahtevana z zakonom, na primer z obveznostmi preglednosti iz Akta EU o umetni inteligenci, po katerih naj bi ljudje lahko prepoznali, da komunicirajo z UI.
Razložljivost (explainable AI, XAI) opisuje, kako dobro je mogoče razumeti, zakaj je sistem UI prišel do določenega rezultata. Zajema metode, ki pokažejo, kateri vhodni podatki so odločitev najbolj vplivali, pa tudi praktične pripomočke, kot so navedbe virov in dnevniki. Razložljivost je pomembna za zaupanje, odpravljanje napak in regulacijo – na primer kadar mora banka utemeljiti, zakaj je zavrnila vlogo.
Izraz opisuje, kako lahko sistemi UI vplivajo na človekove pravice, kot so zasebnost, enako obravnavanje, svoboda izražanja ali pošteni postopki, pozitivno in negativno. Tveganja nastanejo na primer zaradi diskriminatornih odločitev, množičnega nadzora, biometrične identifikacije ali pomanjkanja možnosti za izpodbijanje odločitev. Ta vprašanja obravnavajo mednarodni okviri, kot sta Okvirna konvencija Sveta Evrope o UI in Akt EU o umetni inteligenci. Organizacije se odzivajo z ocenami učinkov, preglednostjo in človeškim nadzorom.
