Ordlista

Hallucination

Vad är Hallucination?

En hallucination är ett resultat från en AI-modell som låter övertygande men är felaktigt eller helt påhittat – som en domstolsdom som inte finns, en felaktig siffra eller en påhittad källa. Orsaken: språkmodeller producerar sannolika formuleringar; de slår inte automatiskt upp fakta. Risken minskar när svaren bygger på verifierade källor, belägg anges och människor kontrollerar viktiga resultat.

Så hjälper KI.ordo

Agenter i KI.ordo svarar utifrån den kunskap du tillhandahåller, anger sina källor och säger öppet när de inte vet något; mallen ”Faktakontrollera mot din egen kunskap” hjälper till vid verifiering – fel kan ändå inte uteslutas helt.

Läs mer

Passande mallar

Faktagranska mot din egen kunskapKontrollerar påståendena i en text mot dina kunskapskällor och markerar vart och ett som styrkt, inte styrkt eller motsagt – med källutdraget.Visa mall

Ämnen

Språkmodeller
Tillförlitlighet
Risk

Prova KI.ordo

Agenter, flöden och mallar i en arbetsyta – gratis demo i 24 timmar.

Starta demo

← Alla begrepp

Relaterade begrepp

Retrieval-augmented generation (RAG)

Retrieval-augmented generation kombinerar sökning med textgenerering: innan systemet svarar söker det i en kunskapssamling – som manualer, policyer eller vanliga frågor – efter relevanta avsnitt och skickar dem som sammanhang till språkmodellen. Svaret bygger därmed på aktuellt, företagsspecifikt innehåll i stället för enbart på modellens träningskunskap. Det minskar påhittade påståenden, gör källor spårbara och möjliggör uppdateringar utan omträning.

RAG
kunskapssökning
+1

Kunskapsgräns (knowledge cutoff)

Kunskapsgränsen är den tidpunkt fram till vilken en språkmodells träningsdata sträcker sig. Modellen har ingen inbyggd kunskap om händelser, priser, lagar eller produkter som kom till därefter och kan ge föråldrad information om den inte får aktuella data. Det kan åtgärdas med metoder som tar in egna dokument eller aktuellt webbinnehåll vid körning.

LLM
aktualitet
+1

Stor språkmodell (LLM)

En stor språkmodell (large language model, LLM) är ett neuralt nätverk som tränats på mycket stora textmängder och därmed kan förstå och generera språk. Den fungerar genom att steg för steg beräkna den mest sannolika nästa token. LLM:er skriver, sammanfattar, översätter, besvarar frågor och genererar kod; kända exempel är Claude, GPT, Gemini och Llama. Utan tillgång till aktuella källor vet de bara det som fanns i deras träningsdata.

Språkmodeller
Generativ AI
+1

Human-in-the-loop

Human-in-the-loop beskriver arbetsflöden där människor går in i en AI-process vid definierade punkter: de granskar resultat, godkänner eller rättar dem, eller tar över svåra fall. Principen minskar risken för felaktiga resultat och låter ansvaret ligga kvar hos människor, särskilt vid beslut som rör enskilda personer, pengar eller juridiska frågor. Exempel: en AI-agent skriver utkast till svar på kundförfrågningar och en medarbetare kontrollerar dem innan de skickas.

Godkännande
Tillsyn
+1