Sõnastik

TI ja inimõigused

Mis on TI ja inimõigused?

Termin kirjeldab, kuidas TI-süsteemid võivad mõjutada inimõigusi, nagu eraelu puutumatus, võrdne kohtlemine, sõnavabadus või õiglane kohtumenetlus, nii positiivselt kui ka negatiivselt. Riske tekitavad näiteks diskrimineerivad otsused, massijälgimine, biomeetriline tuvastamine või võimaluste puudumine otsuseid vaidlustada. Neid küsimusi käsitlevad rahvusvahelised raamistikud, nagu Euroopa Nõukogu tehisintellekti raamkonventsioon ja ELi tehisintellekti määrus. Organisatsioonid reageerivad mõjuhinnangute, läbipaistvuse ja inimliku kontrolliga.

Teemad

Eetika
Põhiõigused
Reguleerimine

Proovi KI.ordot

Agendid, töövood ja mallid ühes tööruumis – tasuta 24-tunnine demo.

Alusta demot

← Kõik terminid

Seotud terminid

TI eetika

TI eetika käsitleb TI arendamise ja kasutamisega seotud moraalseid küsimusi: õiglus ja diskrimineerimine, läbipaistvus ja selgitatavus, andmekaitse, vastutus vigade eest, ohutus ning mõju tööle ja ühiskonnale. Organisatsioonidele muutub see konkreetseks juhistes, riskihinnangutes, inimlikus kontrollis ja ausas suhtlemises TI piirangute kohta. Näide: enne CV-sõelumise tööriista kasutuselevõttu kontrollitakse, kas see seab teatud rühmad ebasoodsamasse olukorda.

Eetika
Vastutus
+1

Diskrimineerimine TI-s

Diskrimineerimine TI-s tekib siis, kui TI-süsteem seab inimesi põhjendamatult ebasoodsamasse olukorda selliste tunnuste alusel nagu sugu, rahvuslik päritolu, vanus või puue. Põhjuseks on tavaliselt moonutatud treeningandmed, sobimatud asendustunnused, näiteks postiindeksid, või ebapiisav testimine; tuntud juhtumid pärinevad värbamisest ja laenuandmisest. Vastumeetmed on esinduslikud andmed, regulaarne õigluse testimine, läbipaistvus ja inimeste üle otsustamisel inimliku kontrolli säilitamine.

õiglus
kallutatus
+1

Andmekaitsenõuded

Andmekaitsenõuded on õigusreeglid, mis reguleerivad isikuandmete käitlemist. ELis on keskne raamistik isikuandmete kaitse üldmäärus (IKÜM); see nõuab muu hulgas õiguslikku alust iga töötlemistoimingu jaoks, võimalikult väheste andmete kogumist, läbipaistvust andmesubjektide suhtes ja töötlemislepinguid teenuseosutajatega. TI kasutamisel peavad organisatsioonid selgitama, millised andmed satuvad sisenditesse, teadmiste allikatesse ja logidesse ning kus neid töödeldakse.

IKÜM
andmekaitse
+1

TI läbipaistvus

TI läbipaistvus tähendab avalikustamist, millal TI on kaasatud, milliste andmete ja allikate peal selle tulemused põhinevad ning kuidas otsuseni jõutakse. See hõlmab TI-sisu märgistamist, jälgitavaid allikaviiteid, logisid ja dokumenteeritud muudatusi. Läbipaistvus loob usaldust, lihtsustab veaotsingut ning on osaliselt nõutud ka seadusega, näiteks ELi tehisintellekti määruse läbipaistvuskohustustega, mille kohaselt peaksid inimesed aru saama, et nad suhtlevad TI-ga.

Läbipaistvus
Usaldus
+1