Pojmovnik

UI i ljudska prava

Što je UI i ljudska prava?

Pojam opisuje kako UI sustavi mogu utjecati na ljudska prava poput privatnosti, jednakog postupanja, slobode izražavanja ili poštenog postupka, i pozitivno i negativno. Rizici nastaju, primjerice, zbog diskriminatornih odluka, masovnog nadzora, biometrijske identifikacije ili nedostatka sredstava za osporavanje odluka. Ta pitanja obrađuju međunarodni okviri poput Okvirne konvencije Vijeća Europe o UI-ju i Akta EU-a o umjetnoj inteligenciji. Organizacije odgovaraju procjenama učinka, transparentnošću i ljudskim nadzorom.

Teme

Etika
Temeljna prava
Regulativa

Isprobajte KI.ordo

Agenti, tijekovi rada i predlošci u jednom radnom prostoru – besplatna demo verzija na 24 sata.

Pokrenite demo

← Svi pojmovi

Srodni pojmovi

Etika UI-ja

Etika UI-ja bavi se moralnim pitanjima razvoja i uporabe UI-ja: pravednošću i diskriminacijom, transparentnošću i objašnjivošću, zaštitom podataka, odgovornošću za pogreške, sigurnošću te utjecajem na rad i društvo. Za organizacije postaje konkretna u smjernicama, procjenama rizika, ljudskom nadzoru i iskrenoj komunikaciji o ograničenjima UI-ja. Primjer: prije uvođenja alata za probir životopisa provjerava se stavlja li određene skupine u nepovoljniji položaj.

Etika
Nadležnost
+1

Diskriminacija u UI-ju

Diskriminacija u UI-ju nastaje kada UI sustav neopravdano stavlja ljude u nepovoljniji položaj na temelju obilježja poput spola, etničkog podrijetla, dobi ili invaliditeta. Uzroci su obično iskrivljeni podaci za treniranje, neprikladna zamjenska obilježja poput poštanskih brojeva ili nedostatak testiranja; poznati slučajevi dolaze iz zapošljavanja i kreditiranja. Protumjere uključuju reprezentativne podatke, redovita testiranja pravednosti, transparentnost i ljudski nadzor nad odlukama o ljudima.

pravednost
pristranost
+1

Propisi o zaštiti podataka

Propisi o zaštiti podataka pravna su pravila o postupanju s osobnim podacima. U EU-u ključni okvir je Opća uredba o zaštiti podataka (GDPR); ona, među ostalim, zahtijeva pravnu osnovu za svaku obradu, smanjenje količine podataka, transparentnost prema ispitanicima i ugovore o obradi podataka s pružateljima usluga. Pri korištenju UI-ja organizacije moraju razjasniti koji podaci dospijevaju u unose, izvore znanja i zapisnike te gdje se obrađuju.

GDPR
zaštita podataka
+1

Transparentnost UI-ja

Transparentnost UI-ja znači otkrivanje kada je UI uključen, na kojim se podacima i izvorima temelje njegovi rezultati i kako se donose odluke. To uključuje označavanje UI sadržaja, sljedive navode izvora, zapisnike i dokumentirane promjene. Transparentnost gradi povjerenje, olakšava otklanjanje pogrešaka i dijelom je propisana zakonom, primjerice obvezama transparentnosti iz Akta EU-a o umjetnoj inteligenciji, prema kojima ljudi trebaju moći prepoznati da komuniciraju s UI-jem.

Transparentnost
Povjerenje
+1