Terminų žodynas

Paaiškinamumas

Kas yra Paaiškinamumas?

Paaiškinamumas (paaiškinamasis DI, angl. XAI) apibūdina, kiek galima suprasti, kodėl DI sistema gavo konkretų rezultatą. Jis apima metodus, rodančius, kurie įvesties duomenys sprendimą paveikė labiausiai, ir praktines priemones, pavyzdžiui, šaltinių nuorodas bei žurnalus. Paaiškinamumas svarbus pasitikėjimui, klaidų paieškai ir reglamentavimui – pavyzdžiui, kai bankas turi pagrįsti, kodėl paraiška buvo atmesta.

Kaip padeda KI.ordo

KI.ordo rezultatus daro atsekamus: agentai nurodo savo šaltinius, o srautai registruoja kiekvieną žingsnį – tai parodo, iš kur atsakymas atsirado, bet ne vidinį kalbos modelio veikimą.

Sužinoti daugiau

Temos

XAI
Skaidrumas
Pasitikėjimas

Išbandykite KI.ordo

Agentai, srautai ir šablonai vienoje darbo srityje – nemokama 24 valandų demonstracinė versija.

Pradėti demonstraciją

← Visi terminai

Susiję terminai

DI skaidrumas

DI skaidrumas reiškia atskleidimą, kada dalyvauja DI, kokiais duomenimis ir šaltiniais grindžiami jo rezultatai ir kaip priimami sprendimai. Tai apima DI turinio žymėjimą, atsekamas šaltinių nuorodas, žurnalus ir dokumentuotus pakeitimus. Skaidrumas kuria pasitikėjimą, palengvina klaidų paiešką ir iš dalies reikalaujamas įstatymų, pavyzdžiui, ES DI akto skaidrumo pareigų, pagal kurias žmonės turėtų galėti suprasti, kad bendrauja su DI.

Skaidrumas
Pasitikėjimas
+1

Modelio interpretuojamumas

Modelio interpretuojamumas apibūdina, kiek gerai žmonės gali suprasti, kaip DI modelis gauna savo rezultatus. Paprasti modeliai, pavyzdžiui, sprendimų medžiai, iš prigimties lengvai skaitomi; sudėtingiems neuroniniams tinklams padėti gali metodai, atskleidžiantys atskirų požymių įtaką. Interpretuojamumas svarbus derinant klaidas, kuriant pasitikėjimą ir laikantis reguliavimo reikalavimų, pavyzdžiui, kai reikia pagrįsti atsisakymą suteikti paskolą.

paaiškinamumas
skaidrumas
+1

Algoritmų skaidrumas

Algoritmų skaidrumas reiškia, kad galima suprasti, kaip automatizuota sistema pasiekia rezultatą: kokius duomenis ji naudoja, kokių taisyklių laikosi ir kur yra jos ribos. Tai stiprina pasitikėjimą, palengvina klaidų atsekimą ir vis dažniau tampa teisiniu reikalavimu, pavyzdžiui, dėl informavimo pareigų pagal BDAR ir ES dirbtinio intelekto aktą. Praktikoje padeda dokumentacija, šaltinių nuorodos, žurnalai ir aiškūs pranešimai paveiktiems asmenims.

Skaidrumas
DI etika
+1

DI etika

DI etika nagrinėja moralinius klausimus, susijusius su DI kūrimu ir naudojimu: sąžiningumą ir diskriminaciją, skaidrumą ir paaiškinamumą, duomenų apsaugą, atsakomybę už klaidas, saugą ir poveikį darbui bei visuomenei. Organizacijoms tai konkretizuojasi gairėse, rizikos vertinimuose, žmogaus vykdomoje priežiūroje ir sąžiningame bendravime apie DI ribas. Pavyzdys: prieš įdiegiant gyvenimo aprašymų atrankos įrankį patikrinama, ar jis nenuvertina tam tikrų grupių.

etika
Atsakomybė
+1