Etika AI se zabývá morálními otázkami kolem vývoje a využívání AI: férovostí a diskriminací, transparentností a vysvětlitelností, ochranou údajů, odpovědností za chyby, bezpečností a dopady na práci a společnost. Pro organizace se konkretizuje v zásadách, posouzeních rizik, lidském dohledu a otevřené komunikaci o omezeních AI. Příklad: před zavedením nástroje pro třídění životopisů se ověří, zda neznevýhodňuje určité skupiny.
Agenti, postupy a šablony v jednom pracovním prostoru – 24hodinové demo zdarma.
Spustit demoV oblasti AI označuje bias (zkreslení) systematické zkreslení výsledků. Často pramení z nevyvážených nebo historicky zkreslených trénovacích dat, ale také z návrhu modelu nebo ze způsobu, jakým je otázka formulována. Známý příklad: nástroj pro předvýběr uchazečů, který se učí z minulých rozhodnutí o přijetí, může prohlubovat existující znevýhodnění. Ve statistice bias znamená také odchylku odhadu od skutečné hodnoty. K protiopatřením patří rozmanitá data, pravidelné audity a lidská rozhodnutí v personálních záležitostech.
Transparentnost AI znamená zveřejnit, kdy je AI zapojena, na jakých datech a zdrojích její výsledky stojí a jak se dospívá k rozhodnutím. Patří sem označování obsahu AI, dohledatelné odkazy na zdroje, protokoly a zdokumentované změny. Transparentnost buduje důvěru, usnadňuje hledání chyb a částečně ji vyžaduje zákon, například povinnosti transparentnosti podle aktu EU o umělé inteligenci, podle nichž by lidé měli poznat, že komunikují s AI.
Vysvětlitelnost (explainable AI, XAI) popisuje, nakolik lze pochopit, proč systém s AI dospěl ke konkrétnímu výsledku. Zahrnuje metody, které ukazují, jaké vstupy rozhodnutí ovlivnily nejvíce, i praktické pomůcky, jako jsou odkazy na zdroje a protokoly. Vysvětlitelnost je důležitá pro důvěru, hledání chyb i regulaci – například když banka musí zdůvodnit, proč žádost zamítla.
Pojem popisuje, jak systémy AI mohou ovlivňovat lidská práva, například soukromí, rovné zacházení, svobodu projevu nebo spravedlivý proces, pozitivně i negativně. Rizika vznikají například z diskriminačních rozhodnutí, masového sledování, biometrické identifikace nebo nedostatku prostředků k napadení rozhodnutí. Těmito otázkami se zabývají mezinárodní rámce, například Rámcová úmluva Rady Evropy o umělé inteligenci a akt EU o umělé inteligenci. Organizace reagují posouzením dopadů, transparentností a lidským dohledem.
