Ordlista

AI och mänskliga rättigheter

Vad är AI och mänskliga rättigheter?

Begreppet beskriver hur AI-system kan påverka mänskliga rättigheter som personlig integritet, likabehandling, yttrandefrihet eller rättvis rättegång, både positivt och negativt. Risker uppstår till exempel genom diskriminerande beslut, massövervakning, biometrisk identifiering eller brist på möjlighet att överklaga beslut. Internationella ramverk som Europarådets ramkonvention om AI och EU:s AI-förordning tar upp dessa frågor. Organisationer svarar med konsekvensbedömningar, transparens och mänsklig tillsyn.

Ämnen

Etik
Grundläggande rättigheter
Reglering

Prova KI.ordo

Agenter, flöden och mallar i en arbetsyta – gratis demo i 24 timmar.

Starta demo

← Alla begrepp

Relaterade begrepp

AI-etik

AI-etik behandlar de moraliska frågorna kring utveckling och användning av AI: rättvisa och diskriminering, transparens och förklarbarhet, dataskydd, ansvar för fel, säkerhet och effekterna på arbete och samhälle. För organisationer blir det konkret i riktlinjer, riskbedömningar, mänsklig tillsyn och ärlig kommunikation om AI:s begränsningar. Exempel: innan ett verktyg för CV-granskning införs kontrolleras det om det missgynnar vissa grupper.

Etik
Ansvar
+1

Diskriminering i AI

Diskriminering i AI uppstår när ett AI-system omotiverat missgynnar personer på grund av egenskaper som kön, etniskt ursprung, ålder eller funktionsnedsättning. Orsakerna är oftast skeva träningsdata, olämpliga proxyvariabler som postnummer eller bristande testning; kända fall finns inom rekrytering och kreditgivning. Motåtgärder är representativa data, regelbundna rättviselester, transparens och mänsklig tillsyn över beslut som rör människor.

rättvisa
bias
+1

Dataskyddsregler

Dataskyddsregler är rättsliga bestämmelser om hanteringen av personuppgifter. I EU är dataskyddsförordningen (GDPR) det centrala regelverket; den kräver bland annat rättslig grund för varje behandling, uppgiftsminimering, öppenhet gentemot registrerade och personuppgiftsbiträdesavtal med tjänsteleverantörer. När AI används behöver organisationer klargöra vilka data som hamnar i indata, kunskapskällor och loggar och var de behandlas.

GDPR
dataskydd
+1

AI-transparens

AI-transparens innebär att öppet redovisa när AI är inblandad, vilka data och källor dess resultat bygger på och hur beslut fattas. Det omfattar märkning av AI-innehåll, spårbara källhänvisningar, loggar och dokumenterade ändringar. Transparens skapar förtroende, underlättar felsökning och krävs delvis enligt lag, till exempel genom transparenskraven i EU:s AI-förordning, enligt vilka människor ska kunna se att de interagerar med en AI.

Transparens
Förtroende
+1