Ordliste

AI og menneskerettigheder

Hvad er AI og menneskerettigheder?

Begrebet beskriver, hvordan AI-systemer kan påvirke menneskerettigheder som privatliv, ligebehandling, ytringsfrihed eller retfærdig rettergang, både positivt og negativt. Risici opstår f.eks. af diskriminerende afgørelser, masseovervågning, biometrisk identifikation eller manglende mulighed for at anfægte afgørelser. Internationale rammer som Europarådets rammekonvention om AI og EU's AI-forordning behandler disse spørgsmål. Organisationer reagerer med konsekvensanalyser, gennemsigtighed og menneskeligt tilsyn.

Emner

Etik
Grundlæggende rettigheder
Regulering

Prøv KI.ordo

Agenter, flows og skabeloner i ét arbejdsområde – gratis demo i 24 timer.

Start demo

← Alle begreber

Relaterede begreber

AI-etik

AI-etik beskæftiger sig med de moralske spørgsmål omkring udvikling og brug af AI: retfærdighed og diskrimination, gennemsigtighed og forklarlighed, databeskyttelse, ansvar for fejl, sikkerhed og konsekvenserne for arbejde og samfund. For organisationer bliver det konkret i retningslinjer, risikovurderinger, menneskeligt tilsyn og ærlig kommunikation om AI's begrænsninger. Eksempel: Før et værktøj til screening af CV'er indføres, kontrolleres det, om det stiller bestemte grupper dårligere.

Etik
Ansvarsområde
+1

Diskrimination i AI

Diskrimination i AI opstår, når et AI-system uberettiget stiller personer dårligere på grund af egenskaber som køn, etnisk oprindelse, alder eller handicap. Årsagerne er som regel skæve træningsdata, uegnede proxyvariabler som postnumre eller manglende test; kendte tilfælde stammer fra rekruttering og kreditgivning. Modforanstaltninger er repræsentative data, regelmæssige retfærdighedstest, gennemsigtighed og menneskeligt tilsyn med afgørelser, der berører personer.

retfærdighed
bias
+1

Databeskyttelsesregler

Databeskyttelsesregler er retlige bestemmelser om håndtering af personoplysninger. I EU er den generelle forordning om databeskyttelse (GDPR) den centrale ramme; den kræver bl.a. et behandlingsgrundlag for enhver behandling, dataminimering, gennemsigtighed over for de registrerede og databehandleraftaler med tjenesteudbydere. Ved brug af AI skal organisationer afklare, hvilke data der havner i input, videnskilder og logfiler, og hvor de behandles.

GDPR
databeskyttelse
+1

AI-gennemsigtighed

AI-gennemsigtighed betyder at oplyse, hvornår AI er involveret, hvilke data og kilder dens resultater bygger på, og hvordan beslutninger træffes. Det omfatter mærkning af AI-indhold, sporbare kildehenvisninger, logfiler og dokumenterede ændringer. Gennemsigtighed skaber tillid, letter fejlfinding og er delvis lovpligtig, f.eks. gennem AI-forordningens gennemsigtighedspligter, hvorefter folk skal kunne se, at de interagerer med en AI.

Gennemsigtighed
Tillid
+1