Glosārijs

Izskaidrojamība

Kas ir Izskaidrojamība?

Izskaidrojamība (izskaidrojamais MI, XAI) apraksta, cik labi var saprast, kāpēc MI sistēma nonāca pie konkrēta rezultāta. Tā aptver metodes, kas parāda, kuri ievaddati lēmumu ietekmēja visvairāk, kā arī praktiskus palīglīdzekļus, piemēram, atsauces uz avotiem un žurnālus. Izskaidrojamība ir svarīga uzticībai, kļūdu novēršanai un regulējumam — piemēram, ja bankai jāpamato, kāpēc pieteikums noraidīts.

Kā palīdz KI.ordo

KI.ordo padara rezultātus izsekojamus: aģenti norāda savus avotus, un plūsmas reģistrē katru soli — tas parāda, no kurienes atbilde radusies, bet ne valodas modeļa iekšējo darbību.

Uzzināt vairāk

Tēmas

XAI
Pārredzamība
Uzticēšanās

Izmēģiniet KI.ordo

Aģenti, plūsmas un veidnes vienā darbvietā – bezmaksas 24 stundu demo.

Sākt demo

← Visi termini

Saistītie termini

MI pārredzamība

MI pārredzamība nozīmē atklāt, kad iesaistīts MI, uz kādiem datiem un avotiem balstās tā rezultāti un kā tiek pieņemti lēmumi. Tas ietver MI satura marķēšanu, izsekojamas atsauces uz avotiem, žurnālus un dokumentētas izmaiņas. Pārredzamība veido uzticību, atvieglo kļūdu novēršanu un daļēji ir prasīta ar likumu, piemēram, ES Mākslīgā intelekta akta pārredzamības pienākumos, saskaņā ar kuriem cilvēkiem jāspēj saprast, ka viņi mijiedarbojas ar MI.

Pārredzamība
Uzticēšanās
+1

Modeļa interpretējamība

Modeļa interpretējamība raksturo, cik labi cilvēki spēj saprast, kā MI modelis nonāk pie saviem rezultātiem. Vienkārši modeļi, piemēram, lēmumu koki, pēc būtības ir viegli lasāmi; sarežģītiem neironu tīkliem var palīdzēt metodes, kas atklāj atsevišķu pazīmju ietekmi. Interpretējamība ir svarīga kļūdu meklēšanai, uzticībai un normatīvajām prasībām, piemēram, ja kredīta atteikums ir jāpamato.

izskaidrojamība
caurspīdīgums
+1

Algoritmiskā pārredzamība

Algoritmiskā pārredzamība nozīmē, ka ir iespējams saprast, kā automatizēta sistēma nonāk pie rezultāta: kādus datus tā izmanto, kādiem noteikumiem seko un kur ir tās robežas. Tas vairo uzticēšanos, atvieglo kļūdu izsekošanu un arvien biežāk ir arī tiesiska prasība, piemēram, informēšanas pienākumu dēļ saskaņā ar VDAR un ES Mākslīgā intelekta aktu. Praksē palīdz dokumentācija, avotu norādes, žurnāli un skaidri paziņojumi skartajām personām.

Pārredzamība
MI ētika
+1

MI ētika

MI ētika nodarbojas ar morāles jautājumiem ap MI izstrādi un izmantošanu: taisnīgumu un diskrimināciju, pārredzamību un izskaidrojamību, datu aizsardzību, atbildību par kļūdām, drošību un ietekmi uz darbu un sabiedrību. Organizācijām tā kļūst konkrēta vadlīnijās, riska novērtējumos, cilvēka uzraudzībā un godīgā komunikācijā par MI ierobežojumiem. Piemērs: pirms CV atlases rīka ieviešanas tiek pārbaudīts, vai tas nenostāda neizdevīgākā situācijā noteiktas grupas.

Ētika
Atbildība
+1