Etika UI-ja bavi se moralnim pitanjima razvoja i uporabe UI-ja: pravednošću i diskriminacijom, transparentnošću i objašnjivošću, zaštitom podataka, odgovornošću za pogreške, sigurnošću te utjecajem na rad i društvo. Za organizacije postaje konkretna u smjernicama, procjenama rizika, ljudskom nadzoru i iskrenoj komunikaciji o ograničenjima UI-ja. Primjer: prije uvođenja alata za probir životopisa provjerava se stavlja li određene skupine u nepovoljniji položaj.
Agenti, tijekovi rada i predlošci u jednom radnom prostoru – besplatna demo verzija na 24 sata.
Pokrenite demoU području UI-ja pristranost označava sustavno iskrivljenje rezultata. Često proizlazi iz neuravnoteženih ili povijesno iskrivljenih podataka za učenje, ali i iz dizajna modela ili načina na koji je pitanje postavljeno. Poznat primjer: alat za probir kandidata koji uči iz prošlih odluka o zapošljavanju može produljiti postojeće nepovoljne položaje. U statistici pristranost označava i odstupanje procjene od stvarne vrijednosti. Protumjere uključuju raznolike podatke, redovite revizije i ljudske odluke u kadrovskim pitanjima.
Transparentnost UI-ja znači otkrivanje kada je UI uključen, na kojim se podacima i izvorima temelje njegovi rezultati i kako se donose odluke. To uključuje označavanje UI sadržaja, sljedive navode izvora, zapisnike i dokumentirane promjene. Transparentnost gradi povjerenje, olakšava otklanjanje pogrešaka i dijelom je propisana zakonom, primjerice obvezama transparentnosti iz Akta EU-a o umjetnoj inteligenciji, prema kojima ljudi trebaju moći prepoznati da komuniciraju s UI-jem.
Objašnjivost (objašnjiva UI, XAI) opisuje koliko se dobro može razumjeti zašto je UI sustav došao do određenog rezultata. Obuhvaća metode koje pokazuju koji su unosi najviše utjecali na odluku, kao i praktična pomagala poput navođenja izvora i zapisnika. Objašnjivost je važna za povjerenje, otklanjanje pogrešaka i regulaciju – primjerice kada banka mora obrazložiti zašto je zahtjev odbijen.
Pojam opisuje kako UI sustavi mogu utjecati na ljudska prava poput privatnosti, jednakog postupanja, slobode izražavanja ili poštenog postupka, i pozitivno i negativno. Rizici nastaju, primjerice, zbog diskriminatornih odluka, masovnog nadzora, biometrijske identifikacije ili nedostatka sredstava za osporavanje odluka. Ta pitanja obrađuju međunarodni okviri poput Okvirne konvencije Vijeća Europe o UI-ju i Akta EU-a o umjetnoj inteligenciji. Organizacije odgovaraju procjenama učinka, transparentnošću i ljudskim nadzorom.
