Glosář

AI a lidská práva

Co je AI a lidská práva?

Pojem popisuje, jak systémy AI mohou ovlivňovat lidská práva, například soukromí, rovné zacházení, svobodu projevu nebo spravedlivý proces, pozitivně i negativně. Rizika vznikají například z diskriminačních rozhodnutí, masového sledování, biometrické identifikace nebo nedostatku prostředků k napadení rozhodnutí. Těmito otázkami se zabývají mezinárodní rámce, například Rámcová úmluva Rady Evropy o umělé inteligenci a akt EU o umělé inteligenci. Organizace reagují posouzením dopadů, transparentností a lidským dohledem.

Témata

etika
základní práva
Regulace

Vyzkoušet KI.ordo

Agenti, postupy a šablony v jednom pracovním prostoru – 24hodinové demo zdarma.

Spustit demo

← Všechny pojmy

Související pojmy

Etika AI

Etika AI se zabývá morálními otázkami kolem vývoje a využívání AI: férovostí a diskriminací, transparentností a vysvětlitelností, ochranou údajů, odpovědností za chyby, bezpečností a dopady na práci a společnost. Pro organizace se konkretizuje v zásadách, posouzeních rizik, lidském dohledu a otevřené komunikaci o omezeních AI. Příklad: před zavedením nástroje pro třídění životopisů se ověří, zda neznevýhodňuje určité skupiny.

etika
Příslušnost
+1

Diskriminace v AI

K diskriminaci v AI dochází, když systém s AI bezdůvodně znevýhodňuje lidi na základě vlastností, jako jsou pohlaví, etnický původ, věk nebo zdravotní postižení. Příčinou bývají obvykle zkreslená trénovací data, nevhodné zástupné rysy, například PSČ, nebo nedostatečné testování; známé případy pocházejí z náboru zaměstnanců a poskytování úvěrů. Protiopatřením jsou reprezentativní data, pravidelné testování férovosti, transparentnost a lidský dohled nad rozhodnutími o lidech.

férovost
zkreslení (bias)
+1

Předpisy na ochranu osobních údajů

Předpisy na ochranu osobních údajů jsou právní pravidla pro nakládání s osobními údaji. V EU je klíčovým rámcem obecné nařízení o ochraně osobních údajů (GDPR); vyžaduje mimo jiné právní základ pro každé zpracování, minimalizaci údajů, transparentnost vůči subjektům údajů a smlouvy o zpracování osobních údajů s poskytovateli služeb. Při použití AI musí organizace objasnit, jaká data končí ve vstupech, zdrojích znalostí a protokolech a kde se zpracovávají.

GDPR
ochrana údajů
+1

Transparentnost AI

Transparentnost AI znamená zveřejnit, kdy je AI zapojena, na jakých datech a zdrojích její výsledky stojí a jak se dospívá k rozhodnutím. Patří sem označování obsahu AI, dohledatelné odkazy na zdroje, protokoly a zdokumentované změny. Transparentnost buduje důvěru, usnadňuje hledání chyb a částečně ji vyžaduje zákon, například povinnosti transparentnosti podle aktu EU o umělé inteligenci, podle nichž by lidé měli poznat, že komunikují s AI.

Transparentnost
Důvěra
+1