Terminų žodynas

Bias

Kas yra Bias?

DI srityje šališkumas reiškia sistemingą rezultatų iškraipymą. Jis dažnai kyla dėl nesubalansuotų ar istoriškai iškreiptų mokymo duomenų, bet taip pat dėl modelio sandaros ar klausimo formulavimo. Gerai žinomas pavyzdys: kandidatų atrankos įrankis, besimokantis iš ankstesnių įdarbinimo sprendimų, gali įtvirtinti esamą diskriminaciją. Statistikoje šališkumas taip pat reiškia įverčio nuokrypį nuo tikrosios reikšmės. Atsakomosios priemonės – įvairūs duomenys, reguliarūs auditai ir žmonių priimami sprendimai personalo klausimais.

Temos

DI etika
Fairness
Duomenų kokybė

Išbandykite KI.ordo

Agentai, srautai ir šablonai vienoje darbo srityje – nemokama 24 valandų demonstracinė versija.

Pradėti demonstraciją

← Visi terminai

Susiję terminai

Diskriminacija DI sistemose

Diskriminacija DI sistemose atsiranda, kai DI sistema nepagrįstai nuvertina žmones dėl tokių požymių kaip lytis, etninė kilmė, amžius ar negalia. Priežastys dažniausiai yra iškreipti mokymo duomenys, netinkami pakaitiniai požymiai, pavyzdžiui, pašto kodai, arba nepakankamas testavimas; gerai žinomų atvejų yra įdarbinimo ir kreditavimo srityse. Priemonės: reprezentatyvūs duomenys, reguliarūs sąžiningumo testai, skaidrumas ir žmogaus vykdoma sprendimų dėl žmonių priežiūra.

sąžiningumas
šališkumas
+1

Mokymo duomenys

Mokymo duomenys – pavyzdžiai, iš kurių DI modelis mokosi dėsningumų: dideli tekstų rinkiniai kalbos modeliams, pažymėti vaizdai vaizdų modeliams. Jų kokybė, įvairovė ir naujumas daugiausia lemia, kaip patikimas ir teisingas bus modelis ir kokios šviežios bus jo žinios. Organizacijoms taip pat svarbu, ar tiekėjas jų įvestus klientų duomenis naudoja tolesniam mokymui.

Duomenys
Training
+1

DI etika

DI etika nagrinėja moralinius klausimus, susijusius su DI kūrimu ir naudojimu: sąžiningumą ir diskriminaciją, skaidrumą ir paaiškinamumą, duomenų apsaugą, atsakomybę už klaidas, saugą ir poveikį darbui bei visuomenei. Organizacijoms tai konkretizuojasi gairėse, rizikos vertinimuose, žmogaus vykdomoje priežiūroje ir sąžiningame bendravime apie DI ribas. Pavyzdys: prieš įdiegiant gyvenimo aprašymų atrankos įrankį patikrinama, ar jis nenuvertina tam tikrų grupių.

etika
Atsakomybė
+1

Paaiškinamumas

Paaiškinamumas (paaiškinamasis DI, angl. XAI) apibūdina, kiek galima suprasti, kodėl DI sistema gavo konkretų rezultatą. Jis apima metodus, rodančius, kurie įvesties duomenys sprendimą paveikė labiausiai, ir praktines priemones, pavyzdžiui, šaltinių nuorodas bei žurnalus. Paaiškinamumas svarbus pasitikėjimui, klaidų paieškai ir reglamentavimui – pavyzdžiui, kai bankas turi pagrįsti, kodėl paraiška buvo atmesta.

XAI
Skaidrumas
+1