Sõnastik

TI läbipaistvus

Mis on TI läbipaistvus?

TI läbipaistvus tähendab avalikustamist, millal TI on kaasatud, milliste andmete ja allikate peal selle tulemused põhinevad ning kuidas otsuseni jõutakse. See hõlmab TI-sisu märgistamist, jälgitavaid allikaviiteid, logisid ja dokumenteeritud muudatusi. Läbipaistvus loob usaldust, lihtsustab veaotsingut ning on osaliselt nõutud ka seadusega, näiteks ELi tehisintellekti määruse läbipaistvuskohustustega, mille kohaselt peaksid inimesed aru saama, et nad suhtlevad TI-ga.

Kuidas KI.ordo aitab

KI.ordo agendid vastavad allikaviidetega, töövood logivad iga sammu ja auditilogi registreerib muudatused. Veebilehe vestlus näitab avamisel teadet, et vastab TI-assistent.

Loe lähemalt

Teemad

Läbipaistvus
Usaldus
Jälgitavus

Proovi KI.ordot

Agendid, töövood ja mallid ühes tööruumis – tasuta 24-tunnine demo.

Alusta demot

← Kõik terminid

Seotud terminid

Algoritmiline läbipaistvus

Algoritmiline läbipaistvus tähendab, et on võimalik mõista, kuidas automatiseeritud süsteem tulemuseni jõuab: milliseid andmeid see kasutab, milliseid reegleid järgib ja kus on selle piirid. See loob usaldust, muudab vead kergemini jälgitavaks ja on üha enam ka õiguslik nõue, näiteks IKÜMi ja ELi tehisintellekti määruse teavitamiskohustuste kaudu. Praktikas aitavad dokumentatsioon, allikaviited, logid ja selged teated puudutatud isikutele.

Läbipaistvus
TI eetika
+1

Selgitatavus

Selgitatavus (explainable AI, XAI) kirjeldab, kui hästi on võimalik mõista, miks TI-süsteem jõudis konkreetse tulemuseni. See hõlmab meetodeid, mis näitavad, millised sisendid otsust enim mõjutasid, ning praktilisi abivahendeid, nagu allikaviited ja logid. Selgitatavus on oluline usalduse, veaotsingu ja regulatsiooni jaoks – näiteks kui pank peab põhjendama, miks avaldus rahuldamata jäi.

XAI
Läbipaistvus
+1

Mudeli tõlgendatavus

Mudeli tõlgendatavus kirjeldab, kui hästi inimesed saavad aru, kuidas TI-mudel oma tulemusteni jõuab. Lihtsad mudelid, näiteks otsustuspuud, on olemuselt hästi loetavad; keeruliste närvivõrkude puhul võivad aidata meetodid, mis toovad esile üksikute tunnuste mõju. Tõlgendatavus on oluline silumisel, usalduse loomisel ja regulatiivsete nõuete täitmisel, näiteks kui laenutaotluse tagasilükkamist tuleb põhjendada.

seletatavus
läbipaistvus
+1

TI eetika

TI eetika käsitleb TI arendamise ja kasutamisega seotud moraalseid küsimusi: õiglus ja diskrimineerimine, läbipaistvus ja selgitatavus, andmekaitse, vastutus vigade eest, ohutus ning mõju tööle ja ühiskonnale. Organisatsioonidele muutub see konkreetseks juhistes, riskihinnangutes, inimlikus kontrollis ja ausas suhtlemises TI piirangute kohta. Näide: enne CV-sõelumise tööriista kasutuselevõttu kontrollitakse, kas see seab teatud rühmad ebasoodsamasse olukorda.

Eetika
Vastutus
+1