Ordliste

Bias

Hvad er Bias?

Inden for AI betegner bias en systematisk skævhed i resultaterne. Den skyldes ofte ubalancerede eller historisk skæve træningsdata, men kan også stamme fra modellens design eller fra, hvordan et spørgsmål formuleres. Et kendt eksempel: Et værktøj til screening af ansøgere, der lærer af tidligere ansættelsesbeslutninger, kan videreføre eksisterende ulemper for bestemte grupper. Inden for statistik betyder bias også et estimats afvigelse fra den sande værdi. Modforanstaltninger omfatter forskelligartede data, regelmæssige audits og menneskelige beslutninger i personalesager.

Emner

AI-etik
Fairness
Datakvalitet

Prøv KI.ordo

Agenter, flows og skabeloner i ét arbejdsområde – gratis demo i 24 timer.

Start demo

← Alle begreber

Relaterede begreber

Diskrimination i AI

Diskrimination i AI opstår, når et AI-system uberettiget stiller personer dårligere på grund af egenskaber som køn, etnisk oprindelse, alder eller handicap. Årsagerne er som regel skæve træningsdata, uegnede proxyvariabler som postnumre eller manglende test; kendte tilfælde stammer fra rekruttering og kreditgivning. Modforanstaltninger er repræsentative data, regelmæssige retfærdighedstest, gennemsigtighed og menneskeligt tilsyn med afgørelser, der berører personer.

retfærdighed
bias
+1

Træningsdata

Træningsdata er de eksempler, som en AI-model lærer mønstre af: store tekstsamlinger til sprogmodeller, mærkede billeder til billedmodeller. Deres kvalitet, mangfoldighed og aktualitet er i høj grad afgørende for, hvor pålidelig og fair en model er, og hvor opdateret dens viden bliver. For organisationer er det også vigtigt, om en udbyder bruger de kundedata, der indtastes, til yderligere træning.

Data
Training
+1

AI-etik

AI-etik beskæftiger sig med de moralske spørgsmål omkring udvikling og brug af AI: retfærdighed og diskrimination, gennemsigtighed og forklarlighed, databeskyttelse, ansvar for fejl, sikkerhed og konsekvenserne for arbejde og samfund. For organisationer bliver det konkret i retningslinjer, risikovurderinger, menneskeligt tilsyn og ærlig kommunikation om AI's begrænsninger. Eksempel: Før et værktøj til screening af CV'er indføres, kontrolleres det, om det stiller bestemte grupper dårligere.

Etik
Ansvarsområde
+1

Forklarlighed

Forklarlighed (explainable AI, XAI) beskriver, hvor godt man kan forstå, hvorfor et AI-system nåede frem til et bestemt resultat. Det omfatter metoder, der viser, hvilke input der påvirkede en beslutning mest, samt praktiske hjælpemidler som kildehenvisninger og logfiler. Forklarlighed er vigtig for tillid, fejlfinding og regulering – f.eks. når en bank skal begrunde, hvorfor en ansøgning blev afslået.

XAI
Gennemsigtighed
+1