Słownik pojęć

AI a prawa człowieka

Czym jest AI a prawa człowieka?

Pojęcie to opisuje, jak systemy AI mogą wpływać na prawa człowieka, takie jak prywatność, równe traktowanie, wolność wypowiedzi czy rzetelny proces, zarówno pozytywnie, jak i negatywnie. Zagrożenia wynikają na przykład z decyzji dyskryminujących, masowej inwigilacji, identyfikacji biometrycznej czy braku środków odwoławczych od decyzji. Tymi kwestiami zajmują się międzynarodowe ramy, takie jak Konwencja ramowa Rady Europy w sprawie AI i unijny AI Act. Organizacje odpowiadają ocenami skutków, przejrzystością i nadzorem człowieka.

Tematy

etyka
prawa podstawowe
Regulacje

Wypróbuj KI.ordo

Agenci, przepływy i szablony w jednym obszarze roboczym – bezpłatne demo na 24 godziny.

Uruchom demo

← Wszystkie pojęcia

Powiązane pojęcia

Etyka AI

Etyka AI zajmuje się pytaniami moralnymi związanymi z rozwojem i wykorzystaniem AI: sprawiedliwością i dyskryminacją, przejrzystością i wyjaśnialnością, ochroną danych, odpowiedzialnością za błędy, bezpieczeństwem oraz skutkami dla pracy i społeczeństwa. W organizacjach konkretyzuje się w wytycznych, ocenach ryzyka, nadzorze człowieka i szczerej komunikacji o ograniczeniach AI. Przykład: przed wprowadzeniem narzędzia do selekcji CV sprawdza się, czy nie dyskryminuje ono określonych grup.

etyka
Właściwy dział
+1

Dyskryminacja w AI

Dyskryminacja w AI występuje wtedy, gdy system AI bezpodstawnie stawia ludzi w gorszej sytuacji ze względu na cechy takie jak płeć, pochodzenie etniczne, wiek czy niepełnosprawność. Przyczyną są zwykle zniekształcone dane treningowe, nieodpowiednie cechy zastępcze, takie jak kody pocztowe, lub brak testów; znane przypadki pochodzą z rekrutacji i udzielania kredytów. Środki zaradcze to reprezentatywne dane, regularne testy pod kątem sprawiedliwości, przejrzystość i nadzór człowieka nad decyzjami dotyczącymi ludzi.

sprawiedliwość
stronniczość
+1

Przepisy o ochronie danych

Przepisy o ochronie danych to normy prawne regulujące postępowanie z danymi osobowymi. W UE kluczowym aktem jest ogólne rozporządzenie o ochronie danych (RODO); wymaga ono między innymi podstawy prawnej dla każdej czynności przetwarzania, minimalizacji danych, przejrzystości wobec osób, których dane dotyczą, oraz umów powierzenia przetwarzania z dostawcami usług. Korzystając z AI, organizacje muszą wyjaśnić, jakie dane trafiają do danych wejściowych, źródeł wiedzy i logów oraz gdzie są przetwarzane.

RODO
ochrona danych
+1

Przejrzystość AI

Przejrzystość AI oznacza ujawnianie, kiedy zaangażowana jest AI, na jakich danych i źródłach opierają się jej wyniki oraz jak podejmowane są decyzje. Obejmuje to oznaczanie treści AI, możliwe do prześledzenia odniesienia do źródeł, logi i udokumentowane zmiany. Przejrzystość buduje zaufanie, ułatwia usuwanie błędów i jest częściowo wymagana prawem, na przykład przez obowiązki przejrzystości wynikające z unijnego AI Act, zgodnie z którymi ludzie powinni wiedzieć, że mają do czynienia z AI.

Przejrzystość
Zaufanie
+1