Terminų žodynas

DI skaidrumas

Kas yra DI skaidrumas?

DI skaidrumas reiškia atskleidimą, kada dalyvauja DI, kokiais duomenimis ir šaltiniais grindžiami jo rezultatai ir kaip priimami sprendimai. Tai apima DI turinio žymėjimą, atsekamas šaltinių nuorodas, žurnalus ir dokumentuotus pakeitimus. Skaidrumas kuria pasitikėjimą, palengvina klaidų paiešką ir iš dalies reikalaujamas įstatymų, pavyzdžiui, ES DI akto skaidrumo pareigų, pagal kurias žmonės turėtų galėti suprasti, kad bendrauja su DI.

Kaip padeda KI.ordo

KI.ordo agentai atsako nurodydami šaltinius, srautai registruoja kiekvieną žingsnį, o audito žurnale fiksuojami pakeitimai. Svetainės pokalbių langas, vos atsidaręs, rodo pranešimą, kad atsako DI asistentas.

Sužinoti daugiau

Temos

Skaidrumas
Pasitikėjimas
atsekamumas

Išbandykite KI.ordo

Agentai, srautai ir šablonai vienoje darbo srityje – nemokama 24 valandų demonstracinė versija.

Pradėti demonstraciją

← Visi terminai

Susiję terminai

Algoritmų skaidrumas

Algoritmų skaidrumas reiškia, kad galima suprasti, kaip automatizuota sistema pasiekia rezultatą: kokius duomenis ji naudoja, kokių taisyklių laikosi ir kur yra jos ribos. Tai stiprina pasitikėjimą, palengvina klaidų atsekimą ir vis dažniau tampa teisiniu reikalavimu, pavyzdžiui, dėl informavimo pareigų pagal BDAR ir ES dirbtinio intelekto aktą. Praktikoje padeda dokumentacija, šaltinių nuorodos, žurnalai ir aiškūs pranešimai paveiktiems asmenims.

Skaidrumas
DI etika
+1

Paaiškinamumas

Paaiškinamumas (paaiškinamasis DI, angl. XAI) apibūdina, kiek galima suprasti, kodėl DI sistema gavo konkretų rezultatą. Jis apima metodus, rodančius, kurie įvesties duomenys sprendimą paveikė labiausiai, ir praktines priemones, pavyzdžiui, šaltinių nuorodas bei žurnalus. Paaiškinamumas svarbus pasitikėjimui, klaidų paieškai ir reglamentavimui – pavyzdžiui, kai bankas turi pagrįsti, kodėl paraiška buvo atmesta.

XAI
Skaidrumas
+1

Modelio interpretuojamumas

Modelio interpretuojamumas apibūdina, kiek gerai žmonės gali suprasti, kaip DI modelis gauna savo rezultatus. Paprasti modeliai, pavyzdžiui, sprendimų medžiai, iš prigimties lengvai skaitomi; sudėtingiems neuroniniams tinklams padėti gali metodai, atskleidžiantys atskirų požymių įtaką. Interpretuojamumas svarbus derinant klaidas, kuriant pasitikėjimą ir laikantis reguliavimo reikalavimų, pavyzdžiui, kai reikia pagrįsti atsisakymą suteikti paskolą.

paaiškinamumas
skaidrumas
+1

DI etika

DI etika nagrinėja moralinius klausimus, susijusius su DI kūrimu ir naudojimu: sąžiningumą ir diskriminaciją, skaidrumą ir paaiškinamumą, duomenų apsaugą, atsakomybę už klaidas, saugą ir poveikį darbui bei visuomenei. Organizacijoms tai konkretizuojasi gairėse, rizikos vertinimuose, žmogaus vykdomoje priežiūroje ir sąžiningame bendravime apie DI ribas. Pavyzdys: prieš įdiegiant gyvenimo aprašymų atrankos įrankį patikrinama, ar jis nenuvertina tam tikrų grupių.

etika
Atsakomybė
+1