Ordlista

Bias

Vad är Bias?

Inom AI avser bias en systematisk snedvridning av resultat. Den beror ofta på obalanserade eller historiskt snedvridna träningsdata, men också på modellens utformning eller hur en fråga ställs. Ett välkänt exempel: ett verktyg för urval av sökande som lär sig av tidigare anställningsbeslut kan befästa befintliga nackdelar. Inom statistiken betyder bias också en skattnings avvikelse från det sanna värdet. Motåtgärder är bland annat varierade data, regelbundna granskningar och mänskliga beslut i personalfrågor.

Ämnen

AI-etik
Fairness
Datakvalitet

Prova KI.ordo

Agenter, flöden och mallar i en arbetsyta – gratis demo i 24 timmar.

Starta demo

← Alla begrepp

Relaterade begrepp

Diskriminering i AI

Diskriminering i AI uppstår när ett AI-system omotiverat missgynnar personer på grund av egenskaper som kön, etniskt ursprung, ålder eller funktionsnedsättning. Orsakerna är oftast skeva träningsdata, olämpliga proxyvariabler som postnummer eller bristande testning; kända fall finns inom rekrytering och kreditgivning. Motåtgärder är representativa data, regelbundna rättviselester, transparens och mänsklig tillsyn över beslut som rör människor.

rättvisa
bias
+1

Träningsdata

Träningsdata är de exempel som en AI-modell lär sig mönster av: stora textsamlingar för språkmodeller, märkta bilder för bildmodeller. Deras kvalitet, mångfald och aktualitet avgör till stor del hur tillförlitlig och rättvis en modell är och hur aktuell dess kunskap blir. För organisationer spelar det också roll om en leverantör använder de kunddata som de matar in för vidare träning.

Data
Training
+1

AI-etik

AI-etik behandlar de moraliska frågorna kring utveckling och användning av AI: rättvisa och diskriminering, transparens och förklarbarhet, dataskydd, ansvar för fel, säkerhet och effekterna på arbete och samhälle. För organisationer blir det konkret i riktlinjer, riskbedömningar, mänsklig tillsyn och ärlig kommunikation om AI:s begränsningar. Exempel: innan ett verktyg för CV-granskning införs kontrolleras det om det missgynnar vissa grupper.

Etik
Ansvar
+1

Förklarbarhet

Förklarbarhet (förklarbar AI, XAI) beskriver hur väl man kan förstå varför ett AI-system kom fram till ett visst resultat. Det omfattar metoder som visar vilka indata som påverkade ett beslut mest, liksom praktiska hjälpmedel som källhänvisningar och loggar. Förklarbarhet är viktig för förtroende, felsökning och reglering – till exempel när en bank måste motivera varför en ansökan avslagits.

XAI
Transparens
+1