Sõnastik

Algoritmiline läbipaistvus

Mis on Algoritmiline läbipaistvus?

Algoritmiline läbipaistvus tähendab, et on võimalik mõista, kuidas automatiseeritud süsteem tulemuseni jõuab: milliseid andmeid see kasutab, milliseid reegleid järgib ja kus on selle piirid. See loob usaldust, muudab vead kergemini jälgitavaks ja on üha enam ka õiguslik nõue, näiteks IKÜMi ja ELi tehisintellekti määruse teavitamiskohustuste kaudu. Praktikas aitavad dokumentatsioon, allikaviited, logid ja selged teated puudutatud isikutele.

Kuidas KI.ordo aitab

KI.ordo agendid viitavad oma allikatele ja töövood logivad iga üksiku sammu jälgitaval viisil.

Loe lähemalt

Teemad

Läbipaistvus
TI eetika
Reguleerimine

Proovi KI.ordot

Agendid, töövood ja mallid ühes tööruumis – tasuta 24-tunnine demo.

Alusta demot

← Kõik terminid

Seotud terminid

TI läbipaistvus

TI läbipaistvus tähendab avalikustamist, millal TI on kaasatud, milliste andmete ja allikate peal selle tulemused põhinevad ning kuidas otsuseni jõutakse. See hõlmab TI-sisu märgistamist, jälgitavaid allikaviiteid, logisid ja dokumenteeritud muudatusi. Läbipaistvus loob usaldust, lihtsustab veaotsingut ning on osaliselt nõutud ka seadusega, näiteks ELi tehisintellekti määruse läbipaistvuskohustustega, mille kohaselt peaksid inimesed aru saama, et nad suhtlevad TI-ga.

Läbipaistvus
Usaldus
+1

Selgitatavus

Selgitatavus (explainable AI, XAI) kirjeldab, kui hästi on võimalik mõista, miks TI-süsteem jõudis konkreetse tulemuseni. See hõlmab meetodeid, mis näitavad, millised sisendid otsust enim mõjutasid, ning praktilisi abivahendeid, nagu allikaviited ja logid. Selgitatavus on oluline usalduse, veaotsingu ja regulatsiooni jaoks – näiteks kui pank peab põhjendama, miks avaldus rahuldamata jäi.

XAI
Läbipaistvus
+1

Mudeli tõlgendatavus

Mudeli tõlgendatavus kirjeldab, kui hästi inimesed saavad aru, kuidas TI-mudel oma tulemusteni jõuab. Lihtsad mudelid, näiteks otsustuspuud, on olemuselt hästi loetavad; keeruliste närvivõrkude puhul võivad aidata meetodid, mis toovad esile üksikute tunnuste mõju. Tõlgendatavus on oluline silumisel, usalduse loomisel ja regulatiivsete nõuete täitmisel, näiteks kui laenutaotluse tagasilükkamist tuleb põhjendada.

seletatavus
läbipaistvus
+1

TI regulatiivne raamistik

TI regulatiivne raamistik hõlmab seadusi, standardeid ja järelevalvestruktuure, mis reguleerivad TI arendamist ja kasutamist. ELis on keskne õigusakt tehisintellekti määrus (määrus (EL) 2024/1689), mis lähtub riskipõhisest käsitlusest: keelud kehtivad alates 2025. aasta veebruarist, üldotstarbeliste TI-mudelite kohustused alates 2025. aasta augustist ja läbipaistvuskohustused alates 2026. aasta augustist. „Digital Omnibus'e“ (määrus (EL) 2026/1744) järel kohalduvad kõrge riskiga süsteemide kohustused alates 2. detsembrist 2027 või 2. augustist 2028 (seisuga oktoober 2026; ei ole õigusnõustamine).

Reguleerimine
EU AI Act
+1