Ordlista

Diskriminering i AI

Vad är Diskriminering i AI?

Diskriminering i AI uppstår när ett AI-system omotiverat missgynnar personer på grund av egenskaper som kön, etniskt ursprung, ålder eller funktionsnedsättning. Orsakerna är oftast skeva träningsdata, olämpliga proxyvariabler som postnummer eller bristande testning; kända fall finns inom rekrytering och kreditgivning. Motåtgärder är representativa data, regelbundna rättviselester, transparens och mänsklig tillsyn över beslut som rör människor.

Så hjälper KI.ordo

I projekt i KI.ordo levererar agenter utkast som människor granskar och godkänner.

Ämnen

rättvisa
bias
AI-etik

Prova KI.ordo

Agenter, flöden och mallar i en arbetsyta – gratis demo i 24 timmar.

Starta demo

← Alla begrepp

Relaterade begrepp

Bias

Inom AI avser bias en systematisk snedvridning av resultat. Den beror ofta på obalanserade eller historiskt snedvridna träningsdata, men också på modellens utformning eller hur en fråga ställs. Ett välkänt exempel: ett verktyg för urval av sökande som lär sig av tidigare anställningsbeslut kan befästa befintliga nackdelar. Inom statistiken betyder bias också en skattnings avvikelse från det sanna värdet. Motåtgärder är bland annat varierade data, regelbundna granskningar och mänskliga beslut i personalfrågor.

AI-etik
Fairness
+1

AI-etik

AI-etik behandlar de moraliska frågorna kring utveckling och användning av AI: rättvisa och diskriminering, transparens och förklarbarhet, dataskydd, ansvar för fel, säkerhet och effekterna på arbete och samhälle. För organisationer blir det konkret i riktlinjer, riskbedömningar, mänsklig tillsyn och ärlig kommunikation om AI:s begränsningar. Exempel: innan ett verktyg för CV-granskning införs kontrolleras det om det missgynnar vissa grupper.

Etik
Ansvar
+1

Förklarbarhet

Förklarbarhet (förklarbar AI, XAI) beskriver hur väl man kan förstå varför ett AI-system kom fram till ett visst resultat. Det omfattar metoder som visar vilka indata som påverkade ett beslut mest, liksom praktiska hjälpmedel som källhänvisningar och loggar. Förklarbarhet är viktig för förtroende, felsökning och reglering – till exempel när en bank måste motivera varför en ansökan avslagits.

XAI
Transparens
+1

Human-in-the-loop

Human-in-the-loop beskriver arbetsflöden där människor går in i en AI-process vid definierade punkter: de granskar resultat, godkänner eller rättar dem, eller tar över svåra fall. Principen minskar risken för felaktiga resultat och låter ansvaret ligga kvar hos människor, särskilt vid beslut som rör enskilda personer, pengar eller juridiska frågor. Exempel: en AI-agent skriver utkast till svar på kundförfrågningar och en medarbetare kontrollerar dem innan de skickas.

Godkännande
Tillsyn
+1