Fogalomtár

Diszkrimináció az MI-ben

Mi a(z) Diszkrimináció az MI-ben?

Az MI-ben megjelenő diszkrimináció akkor áll fenn, ha egy MI-rendszer indokolatlanul hátrányba hoz embereket olyan jellemzők alapján, mint a nem, az etnikai származás, az életkor vagy a fogyatékosság. Az okok többnyire torz tanítóadatok, nem megfelelő helyettesítő jellemzők – például az irányítószám – vagy a tesztelés hiánya; ismert esetek a munkaerő-felvétel és a hitelezés területéről származnak. Az ellenintézkedések: reprezentatív adatok, rendszeres méltányossági tesztek, átláthatóság és az emberekről szóló döntések emberi felügyelete.

Így segít a KI.ordo

A KI.ordo projektjeiben az ügynökök vázlatokat szállítanak, amelyeket emberek ellenőriznek és hagynak jóvá.

Témák

méltányosság
torzítás
MI-etika

Próbálja ki a KI.ordót

Ügynökök, munkafolyamatok és sablonok egyetlen munkaterületen – ingyenes, 24 órás demó.

Demó indítása

← Minden fogalom

Kapcsolódó fogalmak

Bias

Az MI területén a torzítás (bias) az eredmények rendszerszintű torzulását jelenti. Gyakran kiegyensúlyozatlan vagy történetileg torz tanítóadatokból ered, de a modell kialakításából vagy a kérdésfeltevés módjából is fakadhat. Ismert példa: egy pályázókat szűrő eszköz, amely a korábbi felvételi döntésekből tanul, továbbörökítheti a meglévő hátrányokat. A statisztikában a torzítás egy becslés valódi értéktől való eltérését is jelenti. Ellenintézkedés lehet a sokszínű adat, a rendszeres audit és a személyügyi kérdésekben hozott emberi döntés.

MI-etika
Fairness
+1

MI-etika

Az MI-etika az MI fejlesztését és használatát övező erkölcsi kérdésekkel foglalkozik: méltányosság és diszkrimináció, átláthatóság és magyarázhatóság, adatvédelem, a hibákért viselt felelősség, biztonság, valamint a munkára és a társadalomra gyakorolt hatások. A szervezetek számára irányelvekben, kockázatértékelésekben, emberi felügyeletben és az MI korlátairól szóló őszinte kommunikációban válik konkréttá. Példa: egy önéletrajz-szűrő eszköz bevezetése előtt ellenőrzik, hogy nem hozza-e hátrányba bizonyos csoportokat.

etika
Illetékesség
+1

Magyarázhatóság

A magyarázhatóság (explainable AI, XAI) azt írja le, mennyire érthető, hogy egy MI-rendszer miért jutott egy adott eredményre. Ide tartoznak azok a módszerek, amelyek megmutatják, mely bemenetek befolyásoltak leginkább egy döntést, valamint gyakorlati segédeszközök, például a forrásmegjelölések és a naplók. A magyarázhatóság a bizalom, a hibaelhárítás és a szabályozás szempontjából fontos – például amikor egy banknak indokolnia kell, miért utasított el egy kérelmet.

XAI
Átláthatóság
+1

Human-in-the-Loop (ember a folyamatban)

A human-in-the-loop olyan munkafolyamatokat ír le, amelyekben emberek meghatározott pontokon lépnek be egy MI-folyamatba: ellenőrzik az eredményeket, jóváhagyják vagy javítják őket, vagy átveszik a nehéz eseteket. Az elv csökkenti a hibás kimenet kockázatát, és az emberen tartja a felelősséget, különösen az egyéneket, pénzt vagy jogi ügyeket érintő döntéseknél. Példa: egy MI-ügynök vázlatot ír az ügyfélmegkeresésekre adott válaszokról, és egy munkatárs elküldés előtt átnézi azokat.

jóváhagyás
felügyelet
+1