Fogalomtár

MI és emberi jogok

Mi a(z) MI és emberi jogok?

A kifejezés azt írja le, hogyan befolyásolhatják az MI-rendszerek az olyan emberi jogokat, mint a magánélet védelme, az egyenlő bánásmód, a szólásszabadság vagy a tisztességes eljárás, egyaránt pozitív és negatív értelemben. A kockázatok eredhetnek például diszkriminatív döntésekből, tömeges megfigyelésből, biometrikus azonosításból vagy abból, hogy nincs lehetőség a döntések megtámadására. Ezekkel a kérdésekkel nemzetközi keretek – például az Európa Tanács MI-keretegyezménye – és az EU MI-rendelete foglalkozik. A szervezetek hatásvizsgálatokkal, átláthatósággal és emberi felügyelettel reagálnak.

Témák

etika
alapvető jogok
Szabályozás

Próbálja ki a KI.ordót

Ügynökök, munkafolyamatok és sablonok egyetlen munkaterületen – ingyenes, 24 órás demó.

Demó indítása

← Minden fogalom

Kapcsolódó fogalmak

MI-etika

Az MI-etika az MI fejlesztését és használatát övező erkölcsi kérdésekkel foglalkozik: méltányosság és diszkrimináció, átláthatóság és magyarázhatóság, adatvédelem, a hibákért viselt felelősség, biztonság, valamint a munkára és a társadalomra gyakorolt hatások. A szervezetek számára irányelvekben, kockázatértékelésekben, emberi felügyeletben és az MI korlátairól szóló őszinte kommunikációban válik konkréttá. Példa: egy önéletrajz-szűrő eszköz bevezetése előtt ellenőrzik, hogy nem hozza-e hátrányba bizonyos csoportokat.

etika
Illetékesség
+1

Diszkrimináció az MI-ben

Az MI-ben megjelenő diszkrimináció akkor áll fenn, ha egy MI-rendszer indokolatlanul hátrányba hoz embereket olyan jellemzők alapján, mint a nem, az etnikai származás, az életkor vagy a fogyatékosság. Az okok többnyire torz tanítóadatok, nem megfelelő helyettesítő jellemzők – például az irányítószám – vagy a tesztelés hiánya; ismert esetek a munkaerő-felvétel és a hitelezés területéről származnak. Az ellenintézkedések: reprezentatív adatok, rendszeres méltányossági tesztek, átláthatóság és az emberekről szóló döntések emberi felügyelete.

méltányosság
torzítás
+1

Adatvédelmi előírások

Az adatvédelmi előírások a személyes adatok kezelését szabályozó jogi normák. Az EU-ban az általános adatvédelmi rendelet (GDPR) a legfontosabb keret; egyebek mellett minden adatkezeléshez jogalapot, adattakarékosságot, az érintettek felé való átláthatóságot és a szolgáltatókkal kötött adatfeldolgozási szerződéseket ír elő. MI használatakor a szervezeteknek tisztázniuk kell, milyen adatok kerülnek a bemenetekbe, a tudásforrásokba és a naplókba, és hol dolgozzák fel őket.

GDPR
adatvédelem
+1

MI-átláthatóság

Az MI-átláthatóság azt jelenti, hogy nyilvánosságra hozzák, mikor vesz részt MI, mely adatokra és forrásokra épülnek az eredményei, és hogyan születnek a döntések. Ide tartozik az MI-tartalom megjelölése, a nyomon követhető forrásmegjelölések, a naplók és a dokumentált módosítások. Az átláthatóság bizalmat épít, megkönnyíti a hibaelhárítást, és részben jogszabály is előírja, például az EU MI-rendeletének átláthatósági kötelezettségei, amelyek szerint az embereknek fel kell ismerniük, hogy MI-vel kommunikálnak.

Átláthatóság
Bizalom
+1