Ordlista

Human-in-the-loop

Vad är Human-in-the-loop?

Human-in-the-loop beskriver arbetsflöden där människor går in i en AI-process vid definierade punkter: de granskar resultat, godkänner eller rättar dem, eller tar över svåra fall. Principen minskar risken för felaktiga resultat och låter ansvaret ligga kvar hos människor, särskilt vid beslut som rör enskilda personer, pengar eller juridiska frågor. Exempel: en AI-agent skriver utkast till svar på kundförfrågningar och en medarbetare kontrollerar dem innan de skickas.

Så hjälper KI.ordo

I projekt i KI.ordo levererar agenter utkast som människor godkänner, och webbchatten kan lämna över samtal till teamet via ett kontaktformulär.

Läs mer

Ämnen

Godkännande
Tillsyn
Ansvarsskyldighet

Prova KI.ordo

Agenter, flöden och mallar i en arbetsyta – gratis demo i 24 timmar.

Starta demo

← Alla begrepp

Relaterade begrepp

AI-automationssystem

Ett AI-automationssystem kombinerar traditionell processautomation med AI-förmågor som textförståelse, klassificering eller beslutsstöd. Det gör det möjligt att automatisera arbetsflöden även med ostrukturerade indata, som e-postmeddelanden, formulär eller förfrågningar. Ett typiskt upplägg är en kedja av utlösare, bearbetningssteg, villkor och utdata, med mänskligt godkännande vid kritiska punkter. Exempel: inkommande förfrågningar kategoriseras automatiskt, sammanfattas och vidarebefordras till rätt avdelning.

Automatisering
Processer
+1

Intelligenta agenter

En intelligent agent är ett system som uppfattar sin omgivning, bearbetar information och själv väljer handlingar för att nå ett mål. I dag avser begreppet oftast programvara som bygger på stora språkmodeller och som följer instruktioner, använder kunskap och anropar verktyg som en sökfunktion eller ett API. Hur mycket en agent får göra självständigt bör avgöras medvetet. Exempel: en agent besvarar kundfrågor utifrån produktdokumentationen.

Agenter
Autonomi
+1

Förstärkningsinlärning från mänsklig återkoppling (RLHF)

RLHF är en träningsmetod som gör språkmodeller mer hjälpsamma och säkrare. Människor jämför och betygsätter flera av modellens svar; dessa bedömningar används för att träna en belöningsmodell, som sedan tränar själva språkmodellen vidare genom förstärkningsinlärning. På så sätt lär den sig till exempel att svara tydligare eller att avböja problematiska förfrågningar. RLHF sker hos modellleverantören innan en modell släpps – inte hos enskilda användare.

träning
mänsklig återkoppling
+1

Hallucination

En hallucination är ett resultat från en AI-modell som låter övertygande men är felaktigt eller helt påhittat – som en domstolsdom som inte finns, en felaktig siffra eller en påhittad källa. Orsaken: språkmodeller producerar sannolika formuleringar; de slår inte automatiskt upp fakta. Risken minskar när svaren bygger på verifierade källor, belägg anges och människor kontrollerar viktiga resultat.

Språkmodeller
Tillförlitlighet
+1

Mall