Terminų žodynas

Diskriminacija DI sistemose

Kas yra Diskriminacija DI sistemose?

Diskriminacija DI sistemose atsiranda, kai DI sistema nepagrįstai nuvertina žmones dėl tokių požymių kaip lytis, etninė kilmė, amžius ar negalia. Priežastys dažniausiai yra iškreipti mokymo duomenys, netinkami pakaitiniai požymiai, pavyzdžiui, pašto kodai, arba nepakankamas testavimas; gerai žinomų atvejų yra įdarbinimo ir kreditavimo srityse. Priemonės: reprezentatyvūs duomenys, reguliarūs sąžiningumo testai, skaidrumas ir žmogaus vykdoma sprendimų dėl žmonių priežiūra.

Kaip padeda KI.ordo

KI.ordo projektuose agentai pateikia juodraščius, kuriuos žmonės peržiūri ir patvirtina.

Temos

sąžiningumas
šališkumas
DI etika

Išbandykite KI.ordo

Agentai, srautai ir šablonai vienoje darbo srityje – nemokama 24 valandų demonstracinė versija.

Pradėti demonstraciją

← Visi terminai

Susiję terminai

Bias

DI srityje šališkumas reiškia sistemingą rezultatų iškraipymą. Jis dažnai kyla dėl nesubalansuotų ar istoriškai iškreiptų mokymo duomenų, bet taip pat dėl modelio sandaros ar klausimo formulavimo. Gerai žinomas pavyzdys: kandidatų atrankos įrankis, besimokantis iš ankstesnių įdarbinimo sprendimų, gali įtvirtinti esamą diskriminaciją. Statistikoje šališkumas taip pat reiškia įverčio nuokrypį nuo tikrosios reikšmės. Atsakomosios priemonės – įvairūs duomenys, reguliarūs auditai ir žmonių priimami sprendimai personalo klausimais.

DI etika
Fairness
+1

DI etika

DI etika nagrinėja moralinius klausimus, susijusius su DI kūrimu ir naudojimu: sąžiningumą ir diskriminaciją, skaidrumą ir paaiškinamumą, duomenų apsaugą, atsakomybę už klaidas, saugą ir poveikį darbui bei visuomenei. Organizacijoms tai konkretizuojasi gairėse, rizikos vertinimuose, žmogaus vykdomoje priežiūroje ir sąžiningame bendravime apie DI ribas. Pavyzdys: prieš įdiegiant gyvenimo aprašymų atrankos įrankį patikrinama, ar jis nenuvertina tam tikrų grupių.

etika
Atsakomybė
+1

Paaiškinamumas

Paaiškinamumas (paaiškinamasis DI, angl. XAI) apibūdina, kiek galima suprasti, kodėl DI sistema gavo konkretų rezultatą. Jis apima metodus, rodančius, kurie įvesties duomenys sprendimą paveikė labiausiai, ir praktines priemones, pavyzdžiui, šaltinių nuorodas bei žurnalus. Paaiškinamumas svarbus pasitikėjimui, klaidų paieškai ir reglamentavimui – pavyzdžiui, kai bankas turi pagrįsti, kodėl paraiška buvo atmesta.

XAI
Skaidrumas
+1

Žmogus procese (human-in-the-loop)

Žmogus procese (angl. human-in-the-loop) apibūdina darbo eigas, kuriose žmonės įsitraukia į DI procesą apibrėžtose vietose: peržiūri rezultatus, juos patvirtina ar ištaiso arba perima sudėtingus atvejus. Šis principas mažina klaidingų rezultatų riziką ir palieka atsakomybę žmonėms, ypač kai sprendimai liečia asmenis, pinigus ar teisinius dalykus. Pavyzdys: DI agentas rengia atsakymų į klientų užklausas juodraščius, o darbuotojas juos patikrina prieš išsiunčiant.

patvirtinimas
priežiūra
+1