Glosārijs

Diskriminācija MI jomā

Kas ir Diskriminācija MI jomā?

Diskriminācija MI jomā rodas, ja MI sistēma nepamatoti nostāda cilvēkus neizdevīgākā situācijā, pamatojoties uz tādām pazīmēm kā dzimums, etniskā izcelsme, vecums vai invaliditāte. Cēloņi parasti ir šķību apmācības datu kopa, nepiemērotas aizstājējpazīmes, piemēram, pasta indeksi, vai nepietiekama testēšana; zināmi gadījumi saistīti ar personāla atlasi un kreditēšanu. Pretpasākumi ir reprezentatīvi dati, regulāra taisnīguma testēšana, pārredzamība un lēmumu par cilvēkiem cilvēka uzraudzība.

Kā palīdz KI.ordo

KI.ordo projektos aģenti sniedz melnrakstus, ko cilvēki pārbauda un apstiprina.

Tēmas

taisnīgums
aizspriedumi
MI ētika

Izmēģiniet KI.ordo

Aģenti, plūsmas un veidnes vienā darbvietā – bezmaksas 24 stundu demo.

Sākt demo

← Visi termini

Saistītie termini

Bias

MI jomā neobjektivitāte (bias) apzīmē sistemātisku rezultātu izkropļojumu. Tā bieži rodas no nelīdzsvarotiem vai vēsturiski izkropļotiem apmācības datiem, bet arī no modeļa uzbūves vai jautājuma formulējuma. Labi zināms piemērs: kandidātu atlases rīks, kas mācās no iepriekšējiem pieņemšanas darbā lēmumiem, var turpināt esošo nelabvēlīgo situāciju. Statistikā ar neobjektivitāti saprot arī novērtējuma novirzi no patiesās vērtības. Pretpasākumi ietver daudzveidīgus datus, regulārus auditus un cilvēku pieņemtus lēmumus personāla jautājumos.

MI ētika
Fairness
+1

MI ētika

MI ētika nodarbojas ar morāles jautājumiem ap MI izstrādi un izmantošanu: taisnīgumu un diskrimināciju, pārredzamību un izskaidrojamību, datu aizsardzību, atbildību par kļūdām, drošību un ietekmi uz darbu un sabiedrību. Organizācijām tā kļūst konkrēta vadlīnijās, riska novērtējumos, cilvēka uzraudzībā un godīgā komunikācijā par MI ierobežojumiem. Piemērs: pirms CV atlases rīka ieviešanas tiek pārbaudīts, vai tas nenostāda neizdevīgākā situācijā noteiktas grupas.

Ētika
Atbildība
+1

Izskaidrojamība

Izskaidrojamība (izskaidrojamais MI, XAI) apraksta, cik labi var saprast, kāpēc MI sistēma nonāca pie konkrēta rezultāta. Tā aptver metodes, kas parāda, kuri ievaddati lēmumu ietekmēja visvairāk, kā arī praktiskus palīglīdzekļus, piemēram, atsauces uz avotiem un žurnālus. Izskaidrojamība ir svarīga uzticībai, kļūdu novēršanai un regulējumam — piemēram, ja bankai jāpamato, kāpēc pieteikums noraidīts.

XAI
Pārredzamība
+1

Cilvēks procesā (human-in-the-loop)

Cilvēks procesā (human-in-the-loop) apraksta darba gaitas, kurās cilvēki iesaistās MI procesā noteiktos punktos: pārbauda rezultātus, apstiprina vai labo tos vai pārņem sarežģītus gadījumus. Princips mazina kļūdainas izvades risku un atstāj atbildību cilvēkiem, īpaši lēmumiem, kas skar atsevišķas personas, naudu vai tiesiskus jautājumus. Piemērs: MI aģents sagatavo atbilžu melnrakstus uz klientu pieprasījumiem, un darbinieks tos pārbauda pirms nosūtīšanas.

Apstiprināšana
Uzraudzība
+1