Glosārijs

Bias

Kas ir Bias?

MI jomā neobjektivitāte (bias) apzīmē sistemātisku rezultātu izkropļojumu. Tā bieži rodas no nelīdzsvarotiem vai vēsturiski izkropļotiem apmācības datiem, bet arī no modeļa uzbūves vai jautājuma formulējuma. Labi zināms piemērs: kandidātu atlases rīks, kas mācās no iepriekšējiem pieņemšanas darbā lēmumiem, var turpināt esošo nelabvēlīgo situāciju. Statistikā ar neobjektivitāti saprot arī novērtējuma novirzi no patiesās vērtības. Pretpasākumi ietver daudzveidīgus datus, regulārus auditus un cilvēku pieņemtus lēmumus personāla jautājumos.

Tēmas

MI ētika
Fairness
Datu kvalitāte

Izmēģiniet KI.ordo

Aģenti, plūsmas un veidnes vienā darbvietā – bezmaksas 24 stundu demo.

Sākt demo

← Visi termini

Saistītie termini

Diskriminācija MI jomā

Diskriminācija MI jomā rodas, ja MI sistēma nepamatoti nostāda cilvēkus neizdevīgākā situācijā, pamatojoties uz tādām pazīmēm kā dzimums, etniskā izcelsme, vecums vai invaliditāte. Cēloņi parasti ir šķību apmācības datu kopa, nepiemērotas aizstājējpazīmes, piemēram, pasta indeksi, vai nepietiekama testēšana; zināmi gadījumi saistīti ar personāla atlasi un kreditēšanu. Pretpasākumi ir reprezentatīvi dati, regulāra taisnīguma testēšana, pārredzamība un lēmumu par cilvēkiem cilvēka uzraudzība.

taisnīgums
aizspriedumi
+1

Apmācības dati

Apmācības dati ir piemēri, no kuriem MI modelis apgūst likumsakarības: lielas teksta kolekcijas valodas modeļiem, marķēti attēli attēlu modeļiem. To kvalitāte, daudzveidība un aktualitāte lielā mērā nosaka, cik uzticams un taisnīgs ir modelis un cik aktuālas ir tā zināšanas. Organizācijām ir svarīgi arī tas, vai pakalpojumu sniedzējs ievadītos klientu datus izmanto tālākai apmācībai.

Dati
Training
+1

MI ētika

MI ētika nodarbojas ar morāles jautājumiem ap MI izstrādi un izmantošanu: taisnīgumu un diskrimināciju, pārredzamību un izskaidrojamību, datu aizsardzību, atbildību par kļūdām, drošību un ietekmi uz darbu un sabiedrību. Organizācijām tā kļūst konkrēta vadlīnijās, riska novērtējumos, cilvēka uzraudzībā un godīgā komunikācijā par MI ierobežojumiem. Piemērs: pirms CV atlases rīka ieviešanas tiek pārbaudīts, vai tas nenostāda neizdevīgākā situācijā noteiktas grupas.

Ētika
Atbildība
+1

Izskaidrojamība

Izskaidrojamība (izskaidrojamais MI, XAI) apraksta, cik labi var saprast, kāpēc MI sistēma nonāca pie konkrēta rezultāta. Tā aptver metodes, kas parāda, kuri ievaddati lēmumu ietekmēja visvairāk, kā arī praktiskus palīglīdzekļus, piemēram, atsauces uz avotiem un žurnālus. Izskaidrojamība ir svarīga uzticībai, kļūdu novēršanai un regulējumam — piemēram, ja bankai jāpamato, kāpēc pieteikums noraidīts.

XAI
Pārredzamība
+1