Sõnastik

Selgitatavus

Mis on Selgitatavus?

Selgitatavus (explainable AI, XAI) kirjeldab, kui hästi on võimalik mõista, miks TI-süsteem jõudis konkreetse tulemuseni. See hõlmab meetodeid, mis näitavad, millised sisendid otsust enim mõjutasid, ning praktilisi abivahendeid, nagu allikaviited ja logid. Selgitatavus on oluline usalduse, veaotsingu ja regulatsiooni jaoks – näiteks kui pank peab põhjendama, miks avaldus rahuldamata jäi.

Kuidas KI.ordo aitab

KI.ordo muudab tulemused jälgitavaks: agendid viitavad oma allikatele ja töövood logivad iga sammu – see näitab, kust vastus pärines, mitte keelemudeli sisemist toimimist.

Loe lähemalt

Teemad

XAI
Läbipaistvus
Usaldus

Proovi KI.ordot

Agendid, töövood ja mallid ühes tööruumis – tasuta 24-tunnine demo.

Alusta demot

← Kõik terminid

Seotud terminid

TI läbipaistvus

TI läbipaistvus tähendab avalikustamist, millal TI on kaasatud, milliste andmete ja allikate peal selle tulemused põhinevad ning kuidas otsuseni jõutakse. See hõlmab TI-sisu märgistamist, jälgitavaid allikaviiteid, logisid ja dokumenteeritud muudatusi. Läbipaistvus loob usaldust, lihtsustab veaotsingut ning on osaliselt nõutud ka seadusega, näiteks ELi tehisintellekti määruse läbipaistvuskohustustega, mille kohaselt peaksid inimesed aru saama, et nad suhtlevad TI-ga.

Läbipaistvus
Usaldus
+1

Mudeli tõlgendatavus

Mudeli tõlgendatavus kirjeldab, kui hästi inimesed saavad aru, kuidas TI-mudel oma tulemusteni jõuab. Lihtsad mudelid, näiteks otsustuspuud, on olemuselt hästi loetavad; keeruliste närvivõrkude puhul võivad aidata meetodid, mis toovad esile üksikute tunnuste mõju. Tõlgendatavus on oluline silumisel, usalduse loomisel ja regulatiivsete nõuete täitmisel, näiteks kui laenutaotluse tagasilükkamist tuleb põhjendada.

seletatavus
läbipaistvus
+1

Algoritmiline läbipaistvus

Algoritmiline läbipaistvus tähendab, et on võimalik mõista, kuidas automatiseeritud süsteem tulemuseni jõuab: milliseid andmeid see kasutab, milliseid reegleid järgib ja kus on selle piirid. See loob usaldust, muudab vead kergemini jälgitavaks ja on üha enam ka õiguslik nõue, näiteks IKÜMi ja ELi tehisintellekti määruse teavitamiskohustuste kaudu. Praktikas aitavad dokumentatsioon, allikaviited, logid ja selged teated puudutatud isikutele.

Läbipaistvus
TI eetika
+1

TI eetika

TI eetika käsitleb TI arendamise ja kasutamisega seotud moraalseid küsimusi: õiglus ja diskrimineerimine, läbipaistvus ja selgitatavus, andmekaitse, vastutus vigade eest, ohutus ning mõju tööle ja ühiskonnale. Organisatsioonidele muutub see konkreetseks juhistes, riskihinnangutes, inimlikus kontrollis ja ausas suhtlemises TI piirangute kohta. Näide: enne CV-sõelumise tööriista kasutuselevõttu kontrollitakse, kas see seab teatud rühmad ebasoodsamasse olukorda.

Eetika
Vastutus
+1