Glosārijs

MI pārredzamība

Kas ir MI pārredzamība?

MI pārredzamība nozīmē atklāt, kad iesaistīts MI, uz kādiem datiem un avotiem balstās tā rezultāti un kā tiek pieņemti lēmumi. Tas ietver MI satura marķēšanu, izsekojamas atsauces uz avotiem, žurnālus un dokumentētas izmaiņas. Pārredzamība veido uzticību, atvieglo kļūdu novēršanu un daļēji ir prasīta ar likumu, piemēram, ES Mākslīgā intelekta akta pārredzamības pienākumos, saskaņā ar kuriem cilvēkiem jāspēj saprast, ka viņi mijiedarbojas ar MI.

Kā palīdz KI.ordo

KI.ordo aģenti atbild ar atsaucēm uz avotiem, plūsmas reģistrē katru soli, un revīzijas žurnāls ieraksta izmaiņas. Tīmekļa vietnes tērzēšana, tiklīdz tā atveras, parāda paziņojumu, ka atbild MI asistents.

Uzzināt vairāk

Tēmas

Pārredzamība
Uzticēšanās
Izsekojamība

Izmēģiniet KI.ordo

Aģenti, plūsmas un veidnes vienā darbvietā – bezmaksas 24 stundu demo.

Sākt demo

← Visi termini

Saistītie termini

Algoritmiskā pārredzamība

Algoritmiskā pārredzamība nozīmē, ka ir iespējams saprast, kā automatizēta sistēma nonāk pie rezultāta: kādus datus tā izmanto, kādiem noteikumiem seko un kur ir tās robežas. Tas vairo uzticēšanos, atvieglo kļūdu izsekošanu un arvien biežāk ir arī tiesiska prasība, piemēram, informēšanas pienākumu dēļ saskaņā ar VDAR un ES Mākslīgā intelekta aktu. Praksē palīdz dokumentācija, avotu norādes, žurnāli un skaidri paziņojumi skartajām personām.

Pārredzamība
MI ētika
+1

Izskaidrojamība

Izskaidrojamība (izskaidrojamais MI, XAI) apraksta, cik labi var saprast, kāpēc MI sistēma nonāca pie konkrēta rezultāta. Tā aptver metodes, kas parāda, kuri ievaddati lēmumu ietekmēja visvairāk, kā arī praktiskus palīglīdzekļus, piemēram, atsauces uz avotiem un žurnālus. Izskaidrojamība ir svarīga uzticībai, kļūdu novēršanai un regulējumam — piemēram, ja bankai jāpamato, kāpēc pieteikums noraidīts.

XAI
Pārredzamība
+1

Modeļa interpretējamība

Modeļa interpretējamība raksturo, cik labi cilvēki spēj saprast, kā MI modelis nonāk pie saviem rezultātiem. Vienkārši modeļi, piemēram, lēmumu koki, pēc būtības ir viegli lasāmi; sarežģītiem neironu tīkliem var palīdzēt metodes, kas atklāj atsevišķu pazīmju ietekmi. Interpretējamība ir svarīga kļūdu meklēšanai, uzticībai un normatīvajām prasībām, piemēram, ja kredīta atteikums ir jāpamato.

izskaidrojamība
caurspīdīgums
+1

MI ētika

MI ētika nodarbojas ar morāles jautājumiem ap MI izstrādi un izmantošanu: taisnīgumu un diskrimināciju, pārredzamību un izskaidrojamību, datu aizsardzību, atbildību par kļūdām, drošību un ietekmi uz darbu un sabiedrību. Organizācijām tā kļūst konkrēta vadlīnijās, riska novērtējumos, cilvēka uzraudzībā un godīgā komunikācijā par MI ierobežojumiem. Piemērs: pirms CV atlases rīka ieviešanas tiek pārbaudīts, vai tas nenostāda neizdevīgākā situācijā noteiktas grupas.

Ētika
Atbildība
+1