Slovník pojmov

AI a ľudské práva

Čo je AI a ľudské práva?

Pojem opisuje, ako môžu systémy AI ovplyvňovať ľudské práva, ako sú súkromie, rovnaké zaobchádzanie, sloboda prejavu alebo spravodlivé konanie, pozitívne aj negatívne. Riziká vznikajú napríklad z diskriminačných rozhodnutí, masového sledovania, biometrickej identifikácie alebo nedostatku prostriedkov na napadnutie rozhodnutí. Týmito otázkami sa zaoberajú medzinárodné rámce, ako je Rámcový dohovor Rady Európy o AI a akt EÚ o umelej inteligencii. Organizácie reagujú posudzovaním vplyvov, transparentnosťou a ľudským dohľadom.

Témy

etika
základné práva
Regulácia

Vyskúšajte KI.ordo

Agenti, postupy a šablóny v jednom pracovnom priestore – bezplatné 24-hodinové demo.

Spustiť demo

← Všetky pojmy

Súvisiace pojmy

Etika AI

Etika AI sa zaoberá morálnymi otázkami okolo vývoja a používania AI: spravodlivosťou a diskrimináciou, transparentnosťou a vysvetliteľnosťou, ochranou údajov, zodpovednosťou za chyby, bezpečnosťou a vplyvmi na prácu a spoločnosť. Pre organizácie sa konkretizuje v usmerneniach, posudzovaní rizík, ľudskom dohľade a úprimnej komunikácii o limitoch AI. Príklad: pred zavedením nástroja na preosievanie životopisov sa skontroluje, či neznevýhodňuje určité skupiny.

etika
Zodpovednosť
+1

Diskriminácia v AI

Diskriminácia v AI vzniká, keď systém AI neoprávnene znevýhodňuje ľudí na základe vlastností, ako sú pohlavie, etnický pôvod, vek alebo zdravotné postihnutie. Príčinou sú zvyčajne skreslené trénovacie údaje, nevhodné zástupné znaky, napríklad PSČ, alebo nedostatočné testovanie; známe prípady pochádzajú z náboru zamestnancov a poskytovania úverov. Protiopatrenia zahŕňajú reprezentatívne údaje, pravidelné testy spravodlivosti, transparentnosť a ľudský dohľad nad rozhodnutiami o ľuďoch.

spravodlivosť
skreslenie
+1

Predpisy o ochrane údajov

Predpisy o ochrane údajov sú právne pravidlá upravujúce nakladanie s osobnými údajmi. V EÚ je kľúčovým rámcom Všeobecné nariadenie o ochrane údajov (GDPR); okrem iného vyžaduje právny základ pre každé spracúvanie, minimalizáciu údajov, transparentnosť voči dotknutým osobám a zmluvy o spracúvaní osobných údajov s poskytovateľmi služieb. Pri používaní AI musia organizácie objasniť, aké údaje sa dostanú do vstupov, zdrojov znalostí a protokolov a kde sa spracúvajú.

GDPR
ochrana údajov
+1

Transparentnosť AI

Transparentnosť AI znamená zverejniť, kedy sa zapája AI, na akých údajoch a zdrojoch sú jej výsledky založené a ako sa dospelo k rozhodnutiam. Patrí sem označovanie obsahu AI, dohľadateľné odkazy na zdroje, protokoly a zdokumentované zmeny. Transparentnosť buduje dôveru, uľahčuje hľadanie chýb a čiastočne ju vyžaduje zákon, napríklad povinnosti transparentnosti podľa aktu EÚ o umelej inteligencii, podľa ktorých by ľudia mali vedieť rozpoznať, že komunikujú s AI.

Transparentnosť
Dôvera
+1