Słownik pojęć

Etyka AI

Czym jest Etyka AI?

Etyka AI zajmuje się pytaniami moralnymi związanymi z rozwojem i wykorzystaniem AI: sprawiedliwością i dyskryminacją, przejrzystością i wyjaśnialnością, ochroną danych, odpowiedzialnością za błędy, bezpieczeństwem oraz skutkami dla pracy i społeczeństwa. W organizacjach konkretyzuje się w wytycznych, ocenach ryzyka, nadzorze człowieka i szczerej komunikacji o ograniczeniach AI. Przykład: przed wprowadzeniem narzędzia do selekcji CV sprawdza się, czy nie dyskryminuje ono określonych grup.

Tematy

etyka
Właściwy dział
Fairness

Wypróbuj KI.ordo

Agenci, przepływy i szablony w jednym obszarze roboczym – bezpłatne demo na 24 godziny.

Uruchom demo

← Wszystkie pojęcia

Powiązane pojęcia

Bias

W AI bias (stronniczość) oznacza systematyczne zniekształcenie wyników. Często wynika z niezrównoważonych lub historycznie zniekształconych danych treningowych, ale także z konstrukcji modelu lub sposobu sformułowania pytania. Znany przykład: narzędzie do preselekcji kandydatów, które uczy się na podstawie wcześniejszych decyzji rekrutacyjnych, może utrwalać istniejące nierówności. W statystyce bias oznacza również obciążenie estymatora, czyli odchylenie oszacowania od wartości prawdziwej. Środki zaradcze obejmują zróżnicowane dane, regularne audyty i podejmowanie decyzji kadrowych przez ludzi.

Etyka AI
Fairness
+1

Przejrzystość AI

Przejrzystość AI oznacza ujawnianie, kiedy zaangażowana jest AI, na jakich danych i źródłach opierają się jej wyniki oraz jak podejmowane są decyzje. Obejmuje to oznaczanie treści AI, możliwe do prześledzenia odniesienia do źródeł, logi i udokumentowane zmiany. Przejrzystość buduje zaufanie, ułatwia usuwanie błędów i jest częściowo wymagana prawem, na przykład przez obowiązki przejrzystości wynikające z unijnego AI Act, zgodnie z którymi ludzie powinni wiedzieć, że mają do czynienia z AI.

Przejrzystość
Zaufanie
+1

Wyjaśnialność

Wyjaśnialność (explainable AI, XAI) opisuje, na ile można zrozumieć, dlaczego system AI doszedł do określonego wyniku. Obejmuje metody pokazujące, które dane wejściowe w największym stopniu wpłynęły na decyzję, a także praktyczne pomoce, takie jak wskazanie źródeł i logi. Wyjaśnialność ma znaczenie dla zaufania, usuwania błędów i regulacji – na przykład gdy bank musi uzasadnić odrzucenie wniosku.

XAI
Przejrzystość
+1

AI a prawa człowieka

Pojęcie to opisuje, jak systemy AI mogą wpływać na prawa człowieka, takie jak prywatność, równe traktowanie, wolność wypowiedzi czy rzetelny proces, zarówno pozytywnie, jak i negatywnie. Zagrożenia wynikają na przykład z decyzji dyskryminujących, masowej inwigilacji, identyfikacji biometrycznej czy braku środków odwoławczych od decyzji. Tymi kwestiami zajmują się międzynarodowe ramy, takie jak Konwencja ramowa Rady Europy w sprawie AI i unijny AI Act. Organizacje odpowiadają ocenami skutków, przejrzystością i nadzorem człowieka.

etyka
prawa podstawowe
+1