Ordliste

AI-etik

Hvad er AI-etik?

AI-etik beskæftiger sig med de moralske spørgsmål omkring udvikling og brug af AI: retfærdighed og diskrimination, gennemsigtighed og forklarlighed, databeskyttelse, ansvar for fejl, sikkerhed og konsekvenserne for arbejde og samfund. For organisationer bliver det konkret i retningslinjer, risikovurderinger, menneskeligt tilsyn og ærlig kommunikation om AI's begrænsninger. Eksempel: Før et værktøj til screening af CV'er indføres, kontrolleres det, om det stiller bestemte grupper dårligere.

Emner

Etik
Ansvarsområde
Fairness

Prøv KI.ordo

Agenter, flows og skabeloner i ét arbejdsområde – gratis demo i 24 timer.

Start demo

← Alle begreber

Relaterede begreber

Bias

Inden for AI betegner bias en systematisk skævhed i resultaterne. Den skyldes ofte ubalancerede eller historisk skæve træningsdata, men kan også stamme fra modellens design eller fra, hvordan et spørgsmål formuleres. Et kendt eksempel: Et værktøj til screening af ansøgere, der lærer af tidligere ansættelsesbeslutninger, kan videreføre eksisterende ulemper for bestemte grupper. Inden for statistik betyder bias også et estimats afvigelse fra den sande værdi. Modforanstaltninger omfatter forskelligartede data, regelmæssige audits og menneskelige beslutninger i personalesager.

AI-etik
Fairness
+1

AI-gennemsigtighed

AI-gennemsigtighed betyder at oplyse, hvornår AI er involveret, hvilke data og kilder dens resultater bygger på, og hvordan beslutninger træffes. Det omfatter mærkning af AI-indhold, sporbare kildehenvisninger, logfiler og dokumenterede ændringer. Gennemsigtighed skaber tillid, letter fejlfinding og er delvis lovpligtig, f.eks. gennem AI-forordningens gennemsigtighedspligter, hvorefter folk skal kunne se, at de interagerer med en AI.

Gennemsigtighed
Tillid
+1

Forklarlighed

Forklarlighed (explainable AI, XAI) beskriver, hvor godt man kan forstå, hvorfor et AI-system nåede frem til et bestemt resultat. Det omfatter metoder, der viser, hvilke input der påvirkede en beslutning mest, samt praktiske hjælpemidler som kildehenvisninger og logfiler. Forklarlighed er vigtig for tillid, fejlfinding og regulering – f.eks. når en bank skal begrunde, hvorfor en ansøgning blev afslået.

XAI
Gennemsigtighed
+1

AI og menneskerettigheder

Begrebet beskriver, hvordan AI-systemer kan påvirke menneskerettigheder som privatliv, ligebehandling, ytringsfrihed eller retfærdig rettergang, både positivt og negativt. Risici opstår f.eks. af diskriminerende afgørelser, masseovervågning, biometrisk identifikation eller manglende mulighed for at anfægte afgørelser. Internationale rammer som Europarådets rammekonvention om AI og EU's AI-forordning behandler disse spørgsmål. Organisationer reagerer med konsekvensanalyser, gennemsigtighed og menneskeligt tilsyn.

Etik
Grundlæggende rettigheder
+1