Modelio interpretuojamumas apibūdina, kiek gerai žmonės gali suprasti, kaip DI modelis gauna savo rezultatus. Paprasti modeliai, pavyzdžiui, sprendimų medžiai, iš prigimties lengvai skaitomi; sudėtingiems neuroniniams tinklams padėti gali metodai, atskleidžiantys atskirų požymių įtaką. Interpretuojamumas svarbus derinant klaidas, kuriant pasitikėjimą ir laikantis reguliavimo reikalavimų, pavyzdžiui, kai reikia pagrįsti atsisakymą suteikti paskolą.
Agentai, srautai ir šablonai vienoje darbo srityje – nemokama 24 valandų demonstracinė versija.
Pradėti demonstracijąPaaiškinamumas (paaiškinamasis DI, angl. XAI) apibūdina, kiek galima suprasti, kodėl DI sistema gavo konkretų rezultatą. Jis apima metodus, rodančius, kurie įvesties duomenys sprendimą paveikė labiausiai, ir praktines priemones, pavyzdžiui, šaltinių nuorodas bei žurnalus. Paaiškinamumas svarbus pasitikėjimui, klaidų paieškai ir reglamentavimui – pavyzdžiui, kai bankas turi pagrįsti, kodėl paraiška buvo atmesta.
DI skaidrumas reiškia atskleidimą, kada dalyvauja DI, kokiais duomenimis ir šaltiniais grindžiami jo rezultatai ir kaip priimami sprendimai. Tai apima DI turinio žymėjimą, atsekamas šaltinių nuorodas, žurnalus ir dokumentuotus pakeitimus. Skaidrumas kuria pasitikėjimą, palengvina klaidų paiešką ir iš dalies reikalaujamas įstatymų, pavyzdžiui, ES DI akto skaidrumo pareigų, pagal kurias žmonės turėtų galėti suprasti, kad bendrauja su DI.
Algoritmų skaidrumas reiškia, kad galima suprasti, kaip automatizuota sistema pasiekia rezultatą: kokius duomenis ji naudoja, kokių taisyklių laikosi ir kur yra jos ribos. Tai stiprina pasitikėjimą, palengvina klaidų atsekimą ir vis dažniau tampa teisiniu reikalavimu, pavyzdžiui, dėl informavimo pareigų pagal BDAR ir ES dirbtinio intelekto aktą. Praktikoje padeda dokumentacija, šaltinių nuorodos, žurnalai ir aiškūs pranešimai paveiktiems asmenims.
Sprendimų medis – tai modelis, vaizduojantis sprendimą kaip paprastų klausimų „taip / ne“ seką: kiekviena šaka tikrina vieną požymį, o kiekvienas lapas pateikia rezultatą. Mašininiame mokymesi tokie medžiai išmokstami automatiškai iš duomenų ir naudojami klasifikavimui ar prognozavimui. Pagrindinis jų privalumas – skaidrumas, pavyzdžiui, parodoma, kodėl paskolos paraiška buvo pažymėta pagal pajamas, terminą ir mokėjimų istoriją.
