Ordlista

Cache-augmented generation (CAG)

Vad är Cache-augmented generation (CAG)?

Cache-augmented generation (CAG) är ett tillvägagångssätt där en språkmodell inte söker efter kunskap vid varje fråga. I stället läses en hanterbar kunskapsbas in i dess kontextfönster i förväg och det tillståndet cachelagras, så att svaren inte kräver något separat hämtningssteg. Begreppet populariserades av en forskningsartikel från slutet av 2024 som ett alternativ till retrieval-augmented generation (RAG). CAG passar för små, stabila kunskapsbaser; för stora eller ofta föränderliga data är RAG oftast fortfarande mer praktiskt.

Så hjälper KI.ordo

För kunskap använder KI.ordo nyckelordssökning med BM25 på servern och cachelagrar återkommande promptdelar med prompt caching för att sänka kostnaderna.

Läs mer

Ämnen

RAG
Kontextfönster
Kunskapshantering

Prova KI.ordo

Agenter, flöden och mallar i en arbetsyta – gratis demo i 24 timmar.

Starta demo

← Alla begrepp

Relaterade begrepp

Retrieval-augmented generation (RAG)

Retrieval-augmented generation kombinerar sökning med textgenerering: innan systemet svarar söker det i en kunskapssamling – som manualer, policyer eller vanliga frågor – efter relevanta avsnitt och skickar dem som sammanhang till språkmodellen. Svaret bygger därmed på aktuellt, företagsspecifikt innehåll i stället för enbart på modellens träningskunskap. Det minskar påhittade påståenden, gör källor spårbara och möjliggör uppdateringar utan omträning.

RAG
kunskapssökning
+1

Stor språkmodell (LLM)

En stor språkmodell (large language model, LLM) är ett neuralt nätverk som tränats på mycket stora textmängder och därmed kan förstå och generera språk. Den fungerar genom att steg för steg beräkna den mest sannolika nästa token. LLM:er skriver, sammanfattar, översätter, besvarar frågor och genererar kod; kända exempel är Claude, GPT, Gemini och Llama. Utan tillgång till aktuella källor vet de bara det som fanns i deras träningsdata.

Språkmodeller
Generativ AI
+1

Retrieval-pipeline

En retrieval-pipeline är den sekvens av bearbetningssteg som ett system använder för att hitta rätt information för en fråga. Typiska steg är: inläsning och rensning av dokument, uppdelning i delar (chunks), uppbyggnad av ett sökindex, eventuell omskrivning av frågan, hämtning av träffar, rangordning (reranking) och överlämning av de bästa till språkmodellen. Den är grunden i varje RAG-applikation, och dess kvalitet avgör till stor del hur bra svaren blir.

RAG
sökning
+1

Informationssökning (information retrieval)

Informationssökning omfattar metoder som hittar de dokument eller stycken i en stor textmängd som motsvarar en fråga och rangordnar dem efter relevans. Klassiska ansatser som BM25 viktar söktermer efter hur ofta och hur sällan de förekommer; nyare lägger till semantisk likhet. Den ligger till grund för sökmotorer, företagssök och retrieval-augmented generation, där en språkmodell använder de hämtade styckena som underlag för sitt svar.

Sökning
BM25
+1