Sõnastik

Bias

Mis on Bias?

TI valdkonnas tähendab kallutatus (bias) tulemuste süstemaatilist moonutust. Sageli tuleneb see tasakaalustamata või ajalooliselt kallutatud treeningandmetest, aga ka mudeli ülesehitusest või küsimuse sõnastusest. Tuntud näide: kandidaatide sõelumise tööriist, mis õpib varasematest värbamisotsustest, võib olemasolevat ebavõrdsust põlistada. Statistikas tähendab nihe (bias) ka hinnangu kõrvalekallet tegelikust väärtusest. Vastumeetmete hulka kuuluvad mitmekesised andmed, regulaarsed auditid ja inimeste tehtud otsused personaliküsimustes.

Teemad

TI eetika
Fairness
Andmekvaliteet

Proovi KI.ordot

Agendid, töövood ja mallid ühes tööruumis – tasuta 24-tunnine demo.

Alusta demot

← Kõik terminid

Seotud terminid

Diskrimineerimine TI-s

Diskrimineerimine TI-s tekib siis, kui TI-süsteem seab inimesi põhjendamatult ebasoodsamasse olukorda selliste tunnuste alusel nagu sugu, rahvuslik päritolu, vanus või puue. Põhjuseks on tavaliselt moonutatud treeningandmed, sobimatud asendustunnused, näiteks postiindeksid, või ebapiisav testimine; tuntud juhtumid pärinevad värbamisest ja laenuandmisest. Vastumeetmed on esinduslikud andmed, regulaarne õigluse testimine, läbipaistvus ja inimeste üle otsustamisel inimliku kontrolli säilitamine.

õiglus
kallutatus
+1

Treeningandmed

Treeningandmed on näited, millest TI-mudel mustreid õpib: suured tekstikogud keelemudelite jaoks, märgendatud pildid pildimudelite jaoks. Nende kvaliteet, mitmekesisus ja värskus määravad suuresti, kui usaldusväärne ja õiglane mudel on ning kui ajakohased on selle teadmised. Organisatsioonide jaoks on oluline ka see, kas pakkuja kasutab nende sisestatud kliendiandmeid edasiseks treenimiseks.

Andmed
Training
+1

TI eetika

TI eetika käsitleb TI arendamise ja kasutamisega seotud moraalseid küsimusi: õiglus ja diskrimineerimine, läbipaistvus ja selgitatavus, andmekaitse, vastutus vigade eest, ohutus ning mõju tööle ja ühiskonnale. Organisatsioonidele muutub see konkreetseks juhistes, riskihinnangutes, inimlikus kontrollis ja ausas suhtlemises TI piirangute kohta. Näide: enne CV-sõelumise tööriista kasutuselevõttu kontrollitakse, kas see seab teatud rühmad ebasoodsamasse olukorda.

Eetika
Vastutus
+1

Selgitatavus

Selgitatavus (explainable AI, XAI) kirjeldab, kui hästi on võimalik mõista, miks TI-süsteem jõudis konkreetse tulemuseni. See hõlmab meetodeid, mis näitavad, millised sisendid otsust enim mõjutasid, ning praktilisi abivahendeid, nagu allikaviited ja logid. Selgitatavus on oluline usalduse, veaotsingu ja regulatsiooni jaoks – näiteks kui pank peab põhjendama, miks avaldus rahuldamata jäi.

XAI
Läbipaistvus
+1