AI-etik behandlar de moraliska frågorna kring utveckling och användning av AI: rättvisa och diskriminering, transparens och förklarbarhet, dataskydd, ansvar för fel, säkerhet och effekterna på arbete och samhälle. För organisationer blir det konkret i riktlinjer, riskbedömningar, mänsklig tillsyn och ärlig kommunikation om AI:s begränsningar. Exempel: innan ett verktyg för CV-granskning införs kontrolleras det om det missgynnar vissa grupper.
Inom AI avser bias en systematisk snedvridning av resultat. Den beror ofta på obalanserade eller historiskt snedvridna träningsdata, men också på modellens utformning eller hur en fråga ställs. Ett välkänt exempel: ett verktyg för urval av sökande som lär sig av tidigare anställningsbeslut kan befästa befintliga nackdelar. Inom statistiken betyder bias också en skattnings avvikelse från det sanna värdet. Motåtgärder är bland annat varierade data, regelbundna granskningar och mänskliga beslut i personalfrågor.
AI-transparens innebär att öppet redovisa när AI är inblandad, vilka data och källor dess resultat bygger på och hur beslut fattas. Det omfattar märkning av AI-innehåll, spårbara källhänvisningar, loggar och dokumenterade ändringar. Transparens skapar förtroende, underlättar felsökning och krävs delvis enligt lag, till exempel genom transparenskraven i EU:s AI-förordning, enligt vilka människor ska kunna se att de interagerar med en AI.
Förklarbarhet (förklarbar AI, XAI) beskriver hur väl man kan förstå varför ett AI-system kom fram till ett visst resultat. Det omfattar metoder som visar vilka indata som påverkade ett beslut mest, liksom praktiska hjälpmedel som källhänvisningar och loggar. Förklarbarhet är viktig för förtroende, felsökning och reglering – till exempel när en bank måste motivera varför en ansökan avslagits.
Begreppet beskriver hur AI-system kan påverka mänskliga rättigheter som personlig integritet, likabehandling, yttrandefrihet eller rättvis rättegång, både positivt och negativt. Risker uppstår till exempel genom diskriminerande beslut, massövervakning, biometrisk identifiering eller brist på möjlighet att överklaga beslut. Internationella ramverk som Europarådets ramkonvention om AI och EU:s AI-förordning tar upp dessa frågor. Organisationer svarar med konsekvensbedömningar, transparens och mänsklig tillsyn.
