Ordliste

Diskrimination i AI

Hvad er Diskrimination i AI?

Diskrimination i AI opstår, når et AI-system uberettiget stiller personer dårligere på grund af egenskaber som køn, etnisk oprindelse, alder eller handicap. Årsagerne er som regel skæve træningsdata, uegnede proxyvariabler som postnumre eller manglende test; kendte tilfælde stammer fra rekruttering og kreditgivning. Modforanstaltninger er repræsentative data, regelmæssige retfærdighedstest, gennemsigtighed og menneskeligt tilsyn med afgørelser, der berører personer.

Sådan hjælper KI.ordo

I KI.ordo-projekter leverer agenter udkast, som mennesker gennemgår og godkender.

Emner

retfærdighed
bias
AI-etik

Prøv KI.ordo

Agenter, flows og skabeloner i ét arbejdsområde – gratis demo i 24 timer.

Start demo

← Alle begreber

Relaterede begreber

Bias

Inden for AI betegner bias en systematisk skævhed i resultaterne. Den skyldes ofte ubalancerede eller historisk skæve træningsdata, men kan også stamme fra modellens design eller fra, hvordan et spørgsmål formuleres. Et kendt eksempel: Et værktøj til screening af ansøgere, der lærer af tidligere ansættelsesbeslutninger, kan videreføre eksisterende ulemper for bestemte grupper. Inden for statistik betyder bias også et estimats afvigelse fra den sande værdi. Modforanstaltninger omfatter forskelligartede data, regelmæssige audits og menneskelige beslutninger i personalesager.

AI-etik
Fairness
+1

AI-etik

AI-etik beskæftiger sig med de moralske spørgsmål omkring udvikling og brug af AI: retfærdighed og diskrimination, gennemsigtighed og forklarlighed, databeskyttelse, ansvar for fejl, sikkerhed og konsekvenserne for arbejde og samfund. For organisationer bliver det konkret i retningslinjer, risikovurderinger, menneskeligt tilsyn og ærlig kommunikation om AI's begrænsninger. Eksempel: Før et værktøj til screening af CV'er indføres, kontrolleres det, om det stiller bestemte grupper dårligere.

Etik
Ansvarsområde
+1

Forklarlighed

Forklarlighed (explainable AI, XAI) beskriver, hvor godt man kan forstå, hvorfor et AI-system nåede frem til et bestemt resultat. Det omfatter metoder, der viser, hvilke input der påvirkede en beslutning mest, samt praktiske hjælpemidler som kildehenvisninger og logfiler. Forklarlighed er vigtig for tillid, fejlfinding og regulering – f.eks. når en bank skal begrunde, hvorfor en ansøgning blev afslået.

XAI
Gennemsigtighed
+1

Human-in-the-loop

Human-in-the-loop beskriver arbejdsgange, hvor mennesker træder ind i en AI-proces på bestemte punkter: De gennemgår resultater, godkender eller retter dem eller overtager vanskelige sager. Princippet mindsker risikoen for fejlbehæftet output og lader ansvaret ligge hos mennesker, især ved beslutninger, der berører enkeltpersoner, penge eller juridiske forhold. Eksempel: En AI-agent udarbejder udkast til svar på kundehenvendelser, og en medarbejder gennemgår dem, før de sendes.

Godkendelse
Tilsyn
+1