Sõnastik

Diskrimineerimine TI-s

Mis on Diskrimineerimine TI-s?

Diskrimineerimine TI-s tekib siis, kui TI-süsteem seab inimesi põhjendamatult ebasoodsamasse olukorda selliste tunnuste alusel nagu sugu, rahvuslik päritolu, vanus või puue. Põhjuseks on tavaliselt moonutatud treeningandmed, sobimatud asendustunnused, näiteks postiindeksid, või ebapiisav testimine; tuntud juhtumid pärinevad värbamisest ja laenuandmisest. Vastumeetmed on esinduslikud andmed, regulaarne õigluse testimine, läbipaistvus ja inimeste üle otsustamisel inimliku kontrolli säilitamine.

Kuidas KI.ordo aitab

KI.ordo projektides esitavad agendid kavandeid, mida inimesed kontrollivad ja kinnitavad.

Teemad

õiglus
kallutatus
TI eetika

Proovi KI.ordot

Agendid, töövood ja mallid ühes tööruumis – tasuta 24-tunnine demo.

Alusta demot

← Kõik terminid

Seotud terminid

Bias

TI valdkonnas tähendab kallutatus (bias) tulemuste süstemaatilist moonutust. Sageli tuleneb see tasakaalustamata või ajalooliselt kallutatud treeningandmetest, aga ka mudeli ülesehitusest või küsimuse sõnastusest. Tuntud näide: kandidaatide sõelumise tööriist, mis õpib varasematest värbamisotsustest, võib olemasolevat ebavõrdsust põlistada. Statistikas tähendab nihe (bias) ka hinnangu kõrvalekallet tegelikust väärtusest. Vastumeetmete hulka kuuluvad mitmekesised andmed, regulaarsed auditid ja inimeste tehtud otsused personaliküsimustes.

TI eetika
Fairness
+1

TI eetika

TI eetika käsitleb TI arendamise ja kasutamisega seotud moraalseid küsimusi: õiglus ja diskrimineerimine, läbipaistvus ja selgitatavus, andmekaitse, vastutus vigade eest, ohutus ning mõju tööle ja ühiskonnale. Organisatsioonidele muutub see konkreetseks juhistes, riskihinnangutes, inimlikus kontrollis ja ausas suhtlemises TI piirangute kohta. Näide: enne CV-sõelumise tööriista kasutuselevõttu kontrollitakse, kas see seab teatud rühmad ebasoodsamasse olukorda.

Eetika
Vastutus
+1

Selgitatavus

Selgitatavus (explainable AI, XAI) kirjeldab, kui hästi on võimalik mõista, miks TI-süsteem jõudis konkreetse tulemuseni. See hõlmab meetodeid, mis näitavad, millised sisendid otsust enim mõjutasid, ning praktilisi abivahendeid, nagu allikaviited ja logid. Selgitatavus on oluline usalduse, veaotsingu ja regulatsiooni jaoks – näiteks kui pank peab põhjendama, miks avaldus rahuldamata jäi.

XAI
Läbipaistvus
+1

Inimene tsüklis (human-in-the-loop)

Inimene tsüklis (human-in-the-loop) kirjeldab töövooge, kus inimesed astuvad TI-protsessi kindlates punktides sisse: nad vaatavad tulemused üle, kinnitavad või parandavad need või võtavad üle rasked juhtumid. Põhimõte vähendab vigase väljundi riski ja jätab vastutuse inimestele, eriti üksikisikuid, raha või õigusküsimusi puudutavate otsuste puhul. Näide: TI-agent koostab vastuste kavandeid klienditaotlustele ja töötaja kontrollib neid enne saatmist.

Kinnitus
Järelevalve
+1