Słownik pojęć

Dyskryminacja w AI

Czym jest Dyskryminacja w AI?

Dyskryminacja w AI występuje wtedy, gdy system AI bezpodstawnie stawia ludzi w gorszej sytuacji ze względu na cechy takie jak płeć, pochodzenie etniczne, wiek czy niepełnosprawność. Przyczyną są zwykle zniekształcone dane treningowe, nieodpowiednie cechy zastępcze, takie jak kody pocztowe, lub brak testów; znane przypadki pochodzą z rekrutacji i udzielania kredytów. Środki zaradcze to reprezentatywne dane, regularne testy pod kątem sprawiedliwości, przejrzystość i nadzór człowieka nad decyzjami dotyczącymi ludzi.

Jak pomaga KI.ordo

W projektach KI.ordo agenci dostarczają szkice, które ludzie sprawdzają i zatwierdzają.

Tematy

sprawiedliwość
stronniczość
Etyka AI

Wypróbuj KI.ordo

Agenci, przepływy i szablony w jednym obszarze roboczym – bezpłatne demo na 24 godziny.

Uruchom demo

← Wszystkie pojęcia

Powiązane pojęcia

Bias

W AI bias (stronniczość) oznacza systematyczne zniekształcenie wyników. Często wynika z niezrównoważonych lub historycznie zniekształconych danych treningowych, ale także z konstrukcji modelu lub sposobu sformułowania pytania. Znany przykład: narzędzie do preselekcji kandydatów, które uczy się na podstawie wcześniejszych decyzji rekrutacyjnych, może utrwalać istniejące nierówności. W statystyce bias oznacza również obciążenie estymatora, czyli odchylenie oszacowania od wartości prawdziwej. Środki zaradcze obejmują zróżnicowane dane, regularne audyty i podejmowanie decyzji kadrowych przez ludzi.

Etyka AI
Fairness
+1

Etyka AI

Etyka AI zajmuje się pytaniami moralnymi związanymi z rozwojem i wykorzystaniem AI: sprawiedliwością i dyskryminacją, przejrzystością i wyjaśnialnością, ochroną danych, odpowiedzialnością za błędy, bezpieczeństwem oraz skutkami dla pracy i społeczeństwa. W organizacjach konkretyzuje się w wytycznych, ocenach ryzyka, nadzorze człowieka i szczerej komunikacji o ograniczeniach AI. Przykład: przed wprowadzeniem narzędzia do selekcji CV sprawdza się, czy nie dyskryminuje ono określonych grup.

etyka
Właściwy dział
+1

Wyjaśnialność

Wyjaśnialność (explainable AI, XAI) opisuje, na ile można zrozumieć, dlaczego system AI doszedł do określonego wyniku. Obejmuje metody pokazujące, które dane wejściowe w największym stopniu wpłynęły na decyzję, a także praktyczne pomoce, takie jak wskazanie źródeł i logi. Wyjaśnialność ma znaczenie dla zaufania, usuwania błędów i regulacji – na przykład gdy bank musi uzasadnić odrzucenie wniosku.

XAI
Przejrzystość
+1

Człowiek w pętli (human-in-the-loop)

Human-in-the-loop (człowiek w pętli) opisuje przepływy pracy, w których ludzie włączają się w proces AI w określonych punktach: sprawdzają wyniki, zatwierdzają je lub poprawiają albo przejmują trudne przypadki. Zasada ta zmniejsza ryzyko błędnych wyników i pozostawia odpowiedzialność po stronie ludzi, zwłaszcza w decyzjach dotyczących osób, pieniędzy czy spraw prawnych. Przykład: agent AI przygotowuje szkice odpowiedzi na zapytania klientów, a pracownik sprawdza je przed wysłaniem.

zatwierdzenie
nadzór
+1