Sõnastik

TI eetika

Mis on TI eetika?

TI eetika käsitleb TI arendamise ja kasutamisega seotud moraalseid küsimusi: õiglus ja diskrimineerimine, läbipaistvus ja selgitatavus, andmekaitse, vastutus vigade eest, ohutus ning mõju tööle ja ühiskonnale. Organisatsioonidele muutub see konkreetseks juhistes, riskihinnangutes, inimlikus kontrollis ja ausas suhtlemises TI piirangute kohta. Näide: enne CV-sõelumise tööriista kasutuselevõttu kontrollitakse, kas see seab teatud rühmad ebasoodsamasse olukorda.

Teemad

  • Eetika
  • Vastutus
  • Fairness

Proovi KI.ordot

Agendid, töövood ja mallid ühes tööruumis – tasuta 24-tunnine demo.

Alusta demot
← Kõik terminid

Seotud terminid

Bias

TI valdkonnas tähendab kallutatus (bias) tulemuste süstemaatilist moonutust. Sageli tuleneb see tasakaalustamata või ajalooliselt kallutatud treeningandmetest, aga ka mudeli ülesehitusest või küsimuse sõnastusest. Tuntud näide: kandidaatide sõelumise tööriist, mis õpib varasematest värbamisotsustest, võib olemasolevat ebavõrdsust põlistada. Statistikas tähendab nihe (bias) ka hinnangu kõrvalekallet tegelikust väärtusest. Vastumeetmete hulka kuuluvad mitmekesised andmed, regulaarsed auditid ja inimeste tehtud otsused personaliküsimustes.

  • TI eetika
  • Fairness
  • +1

TI läbipaistvus

TI läbipaistvus tähendab avalikustamist, millal TI on kaasatud, milliste andmete ja allikate peal selle tulemused põhinevad ning kuidas otsuseni jõutakse. See hõlmab TI-sisu märgistamist, jälgitavaid allikaviiteid, logisid ja dokumenteeritud muudatusi. Läbipaistvus loob usaldust, lihtsustab veaotsingut ning on osaliselt nõutud ka seadusega, näiteks ELi tehisintellekti määruse läbipaistvuskohustustega, mille kohaselt peaksid inimesed aru saama, et nad suhtlevad TI-ga.

  • Läbipaistvus
  • Usaldus
  • +1

Selgitatavus

Selgitatavus (explainable AI, XAI) kirjeldab, kui hästi on võimalik mõista, miks TI-süsteem jõudis konkreetse tulemuseni. See hõlmab meetodeid, mis näitavad, millised sisendid otsust enim mõjutasid, ning praktilisi abivahendeid, nagu allikaviited ja logid. Selgitatavus on oluline usalduse, veaotsingu ja regulatsiooni jaoks – näiteks kui pank peab põhjendama, miks avaldus rahuldamata jäi.

  • XAI
  • Läbipaistvus
  • +1

TI ja inimõigused

Termin kirjeldab, kuidas TI-süsteemid võivad mõjutada inimõigusi, nagu eraelu puutumatus, võrdne kohtlemine, sõnavabadus või õiglane kohtumenetlus, nii positiivselt kui ka negatiivselt. Riske tekitavad näiteks diskrimineerivad otsused, massijälgimine, biomeetriline tuvastamine või võimaluste puudumine otsuseid vaidlustada. Neid küsimusi käsitlevad rahvusvahelised raamistikud, nagu Euroopa Nõukogu tehisintellekti raamkonventsioon ja ELi tehisintellekti määrus. Organisatsioonid reageerivad mõjuhinnangute, läbipaistvuse ja inimliku kontrolliga.

  • Eetika
  • Põhiõigused
  • +1