Fogalomtár

MI-etika

Mi a(z) MI-etika?

Az MI-etika az MI fejlesztését és használatát övező erkölcsi kérdésekkel foglalkozik: méltányosság és diszkrimináció, átláthatóság és magyarázhatóság, adatvédelem, a hibákért viselt felelősség, biztonság, valamint a munkára és a társadalomra gyakorolt hatások. A szervezetek számára irányelvekben, kockázatértékelésekben, emberi felügyeletben és az MI korlátairól szóló őszinte kommunikációban válik konkréttá. Példa: egy önéletrajz-szűrő eszköz bevezetése előtt ellenőrzik, hogy nem hozza-e hátrányba bizonyos csoportokat.

Témák

etika
Illetékesség
Fairness

Próbálja ki a KI.ordót

Ügynökök, munkafolyamatok és sablonok egyetlen munkaterületen – ingyenes, 24 órás demó.

Demó indítása

← Minden fogalom

Kapcsolódó fogalmak

Bias

Az MI területén a torzítás (bias) az eredmények rendszerszintű torzulását jelenti. Gyakran kiegyensúlyozatlan vagy történetileg torz tanítóadatokból ered, de a modell kialakításából vagy a kérdésfeltevés módjából is fakadhat. Ismert példa: egy pályázókat szűrő eszköz, amely a korábbi felvételi döntésekből tanul, továbbörökítheti a meglévő hátrányokat. A statisztikában a torzítás egy becslés valódi értéktől való eltérését is jelenti. Ellenintézkedés lehet a sokszínű adat, a rendszeres audit és a személyügyi kérdésekben hozott emberi döntés.

MI-etika
Fairness
+1

MI-átláthatóság

Az MI-átláthatóság azt jelenti, hogy nyilvánosságra hozzák, mikor vesz részt MI, mely adatokra és forrásokra épülnek az eredményei, és hogyan születnek a döntések. Ide tartozik az MI-tartalom megjelölése, a nyomon követhető forrásmegjelölések, a naplók és a dokumentált módosítások. Az átláthatóság bizalmat épít, megkönnyíti a hibaelhárítást, és részben jogszabály is előírja, például az EU MI-rendeletének átláthatósági kötelezettségei, amelyek szerint az embereknek fel kell ismerniük, hogy MI-vel kommunikálnak.

Átláthatóság
Bizalom
+1

Magyarázhatóság

A magyarázhatóság (explainable AI, XAI) azt írja le, mennyire érthető, hogy egy MI-rendszer miért jutott egy adott eredményre. Ide tartoznak azok a módszerek, amelyek megmutatják, mely bemenetek befolyásoltak leginkább egy döntést, valamint gyakorlati segédeszközök, például a forrásmegjelölések és a naplók. A magyarázhatóság a bizalom, a hibaelhárítás és a szabályozás szempontjából fontos – például amikor egy banknak indokolnia kell, miért utasított el egy kérelmet.

XAI
Átláthatóság
+1

MI és emberi jogok

A kifejezés azt írja le, hogyan befolyásolhatják az MI-rendszerek az olyan emberi jogokat, mint a magánélet védelme, az egyenlő bánásmód, a szólásszabadság vagy a tisztességes eljárás, egyaránt pozitív és negatív értelemben. A kockázatok eredhetnek például diszkriminatív döntésekből, tömeges megfigyelésből, biometrikus azonosításból vagy abból, hogy nincs lehetőség a döntések megtámadására. Ezekkel a kérdésekkel nemzetközi keretek – például az Európa Tanács MI-keretegyezménye – és az EU MI-rendelete foglalkozik. A szervezetek hatásvizsgálatokkal, átláthatósággal és emberi felügyelettel reagálnak.

etika
alapvető jogok
+1