Slovník pojmov

Diskriminácia v AI

Čo je Diskriminácia v AI?

Diskriminácia v AI vzniká, keď systém AI neoprávnene znevýhodňuje ľudí na základe vlastností, ako sú pohlavie, etnický pôvod, vek alebo zdravotné postihnutie. Príčinou sú zvyčajne skreslené trénovacie údaje, nevhodné zástupné znaky, napríklad PSČ, alebo nedostatočné testovanie; známe prípady pochádzajú z náboru zamestnancov a poskytovania úverov. Protiopatrenia zahŕňajú reprezentatívne údaje, pravidelné testy spravodlivosti, transparentnosť a ľudský dohľad nad rozhodnutiami o ľuďoch.

Ako pomáha KI.ordo

V projektoch KI.ordo agenti dodávajú návrhy, ktoré ľudia kontrolujú a schvaľujú.

Témy

spravodlivosť
skreslenie
Etika AI

Vyskúšajte KI.ordo

Agenti, postupy a šablóny v jednom pracovnom priestore – bezplatné 24-hodinové demo.

Spustiť demo

← Všetky pojmy

Súvisiace pojmy

Bias

Skreslenie (bias) v AI označuje systematické skreslenie výsledkov. Často pochádza z nevyvážených alebo historicky skreslených trénovacích údajov, ale aj z návrhu modelu alebo zo spôsobu, akým je otázka položená. Známy príklad: nástroj na preverovanie uchádzačov, ktorý sa učí z minulých rozhodnutí o prijatí, môže udržiavať existujúce znevýhodnenia. V štatistike bias znamená aj odchýlku odhadu od skutočnej hodnoty. Protiopatrenia zahŕňajú rozmanité údaje, pravidelné audity a ľudské rozhodovanie v personálnych otázkach.

Etika AI
Fairness
+1

Etika AI

Etika AI sa zaoberá morálnymi otázkami okolo vývoja a používania AI: spravodlivosťou a diskrimináciou, transparentnosťou a vysvetliteľnosťou, ochranou údajov, zodpovednosťou za chyby, bezpečnosťou a vplyvmi na prácu a spoločnosť. Pre organizácie sa konkretizuje v usmerneniach, posudzovaní rizík, ľudskom dohľade a úprimnej komunikácii o limitoch AI. Príklad: pred zavedením nástroja na preosievanie životopisov sa skontroluje, či neznevýhodňuje určité skupiny.

etika
Zodpovednosť
+1

Vysvetliteľnosť

Vysvetliteľnosť (explainable AI, XAI) opisuje, nakoľko možno pochopiť, prečo systém AI dospel ku konkrétnemu výsledku. Zahŕňa metódy, ktoré ukazujú, ktoré vstupy ovplyvnili rozhodnutie najviac, ako aj praktické pomôcky, napríklad odkazy na zdroje a protokoly. Vysvetliteľnosť je dôležitá pre dôveru, hľadanie chýb a reguláciu – napríklad keď banka musí odôvodniť, prečo žiadosť zamietla.

XAI
Transparentnosť
+1

Človek v procese (human-in-the-loop)

Človek v procese (human-in-the-loop) opisuje pracovné postupy, v ktorých ľudia zasahujú do procesu AI vo vopred určených bodoch: kontrolujú výsledky, schvaľujú ich alebo opravujú, prípadne preberajú ťažké prípady. Zásada znižuje riziko chybných výstupov a ponecháva zodpovednosť ľuďom, najmä pri rozhodnutiach týkajúcich sa jednotlivcov, peňazí alebo právnych záležitostí. Príklad: agent AI pripraví návrhy odpovedí na dopyty zákazníkov a zamestnanec ich pred odoslaním skontroluje.

schválenie
dohľad
+1