Etika AI sa zaoberá morálnymi otázkami okolo vývoja a používania AI: spravodlivosťou a diskrimináciou, transparentnosťou a vysvetliteľnosťou, ochranou údajov, zodpovednosťou za chyby, bezpečnosťou a vplyvmi na prácu a spoločnosť. Pre organizácie sa konkretizuje v usmerneniach, posudzovaní rizík, ľudskom dohľade a úprimnej komunikácii o limitoch AI. Príklad: pred zavedením nástroja na preosievanie životopisov sa skontroluje, či neznevýhodňuje určité skupiny.
Agenti, postupy a šablóny v jednom pracovnom priestore – bezplatné 24-hodinové demo.
Spustiť demoSkreslenie (bias) v AI označuje systematické skreslenie výsledkov. Často pochádza z nevyvážených alebo historicky skreslených trénovacích údajov, ale aj z návrhu modelu alebo zo spôsobu, akým je otázka položená. Známy príklad: nástroj na preverovanie uchádzačov, ktorý sa učí z minulých rozhodnutí o prijatí, môže udržiavať existujúce znevýhodnenia. V štatistike bias znamená aj odchýlku odhadu od skutočnej hodnoty. Protiopatrenia zahŕňajú rozmanité údaje, pravidelné audity a ľudské rozhodovanie v personálnych otázkach.
Transparentnosť AI znamená zverejniť, kedy sa zapája AI, na akých údajoch a zdrojoch sú jej výsledky založené a ako sa dospelo k rozhodnutiam. Patrí sem označovanie obsahu AI, dohľadateľné odkazy na zdroje, protokoly a zdokumentované zmeny. Transparentnosť buduje dôveru, uľahčuje hľadanie chýb a čiastočne ju vyžaduje zákon, napríklad povinnosti transparentnosti podľa aktu EÚ o umelej inteligencii, podľa ktorých by ľudia mali vedieť rozpoznať, že komunikujú s AI.
Vysvetliteľnosť (explainable AI, XAI) opisuje, nakoľko možno pochopiť, prečo systém AI dospel ku konkrétnemu výsledku. Zahŕňa metódy, ktoré ukazujú, ktoré vstupy ovplyvnili rozhodnutie najviac, ako aj praktické pomôcky, napríklad odkazy na zdroje a protokoly. Vysvetliteľnosť je dôležitá pre dôveru, hľadanie chýb a reguláciu – napríklad keď banka musí odôvodniť, prečo žiadosť zamietla.
Pojem opisuje, ako môžu systémy AI ovplyvňovať ľudské práva, ako sú súkromie, rovnaké zaobchádzanie, sloboda prejavu alebo spravodlivé konanie, pozitívne aj negatívne. Riziká vznikajú napríklad z diskriminačných rozhodnutí, masového sledovania, biometrickej identifikácie alebo nedostatku prostriedkov na napadnutie rozhodnutí. Týmito otázkami sa zaoberajú medzinárodné rámce, ako je Rámcový dohovor Rady Európy o AI a akt EÚ o umelej inteligencii. Organizácie reagujú posudzovaním vplyvov, transparentnosťou a ľudským dohľadom.
