Fogalomtár

Bias

Mi a(z) Bias?

Az MI területén a torzítás (bias) az eredmények rendszerszintű torzulását jelenti. Gyakran kiegyensúlyozatlan vagy történetileg torz tanítóadatokból ered, de a modell kialakításából vagy a kérdésfeltevés módjából is fakadhat. Ismert példa: egy pályázókat szűrő eszköz, amely a korábbi felvételi döntésekből tanul, továbbörökítheti a meglévő hátrányokat. A statisztikában a torzítás egy becslés valódi értéktől való eltérését is jelenti. Ellenintézkedés lehet a sokszínű adat, a rendszeres audit és a személyügyi kérdésekben hozott emberi döntés.

Témák

MI-etika
Fairness
Adatminőség

Próbálja ki a KI.ordót

Ügynökök, munkafolyamatok és sablonok egyetlen munkaterületen – ingyenes, 24 órás demó.

Demó indítása

← Minden fogalom

Kapcsolódó fogalmak

Diszkrimináció az MI-ben

Az MI-ben megjelenő diszkrimináció akkor áll fenn, ha egy MI-rendszer indokolatlanul hátrányba hoz embereket olyan jellemzők alapján, mint a nem, az etnikai származás, az életkor vagy a fogyatékosság. Az okok többnyire torz tanítóadatok, nem megfelelő helyettesítő jellemzők – például az irányítószám – vagy a tesztelés hiánya; ismert esetek a munkaerő-felvétel és a hitelezés területéről származnak. Az ellenintézkedések: reprezentatív adatok, rendszeres méltányossági tesztek, átláthatóság és az emberekről szóló döntések emberi felügyelete.

méltányosság
torzítás
+1

Tanítóadatok

A tanítóadatok azok a példák, amelyekből egy MI-modell mintákat tanul: nagy szöveggyűjtemények a nyelvi modellekhez, címkézett képek a képi modellekhez. Minőségük, sokféleségük és aktualitásuk nagyban meghatározza, mennyire megbízható és igazságos egy modell, és mennyire naprakész a tudása. A szervezetek számára az is számít, hogy a szolgáltató a megadott ügyféladatokat felhasználja-e további tanításhoz.

Adatok
Training
+1

MI-etika

Az MI-etika az MI fejlesztését és használatát övező erkölcsi kérdésekkel foglalkozik: méltányosság és diszkrimináció, átláthatóság és magyarázhatóság, adatvédelem, a hibákért viselt felelősség, biztonság, valamint a munkára és a társadalomra gyakorolt hatások. A szervezetek számára irányelvekben, kockázatértékelésekben, emberi felügyeletben és az MI korlátairól szóló őszinte kommunikációban válik konkréttá. Példa: egy önéletrajz-szűrő eszköz bevezetése előtt ellenőrzik, hogy nem hozza-e hátrányba bizonyos csoportokat.

etika
Illetékesség
+1

Magyarázhatóság

A magyarázhatóság (explainable AI, XAI) azt írja le, mennyire érthető, hogy egy MI-rendszer miért jutott egy adott eredményre. Ide tartoznak azok a módszerek, amelyek megmutatják, mely bemenetek befolyásoltak leginkább egy döntést, valamint gyakorlati segédeszközök, például a forrásmegjelölések és a naplók. A magyarázhatóság a bizalom, a hibaelhárítás és a szabályozás szempontjából fontos – például amikor egy banknak indokolnia kell, miért utasított el egy kérelmet.

XAI
Átláthatóság
+1