Ordliste

Cache-augmented generation (CAG)

Hvad er Cache-augmented generation (CAG)?

Cache-augmented generation (CAG) er en tilgang, hvor en sprogmodel ikke søger efter viden ved hvert spørgsmål. I stedet indlæses en overskuelig videnbase på forhånd i modellens kontekstvindue, og denne tilstand caches, så svarene ikke kræver et separat søgetrin. Begrebet blev udbredt af en forskningsartikel fra slutningen af 2024 som et alternativ til retrieval-augmented generation (RAG). CAG egner sig til små, stabile videnbaser; ved store eller hyppigt skiftende data er RAG som regel stadig mere praktisk.

Sådan hjælper KI.ordo

Til viden bruger KI.ordo BM25-nøgleordssøgning på serveren og cacher tilbagevendende promptdele med prompt caching for at reducere omkostningerne.

Læs mere

Emner

RAG
Kontekstvindue
Videnshåndtering

Prøv KI.ordo

Agenter, flows og skabeloner i ét arbejdsområde – gratis demo i 24 timer.

Start demo

← Alle begreber

Relaterede begreber

Retrieval-augmented generation (RAG)

Retrieval-augmented generation kombinerer søgning med tekstgenerering: før svaret søger systemet i en vidensamling – f.eks. manualer, politikker eller FAQ'er – efter relevante passager og giver dem til sprogmodellen som kontekst. Svaret bygger dermed på aktuelt, virksomhedsspecifikt indhold og ikke kun på modellens træningsviden. Det reducerer opfundne udsagn, gør kilder sporbare og muliggør opdateringer uden gentræning.

RAG
vidensøgning
+1

Stor sprogmodel (LLM)

En stor sprogmodel (large language model, LLM) er et neuralt netværk, der er trænet på meget store tekstmængder, så det kan forstå og generere sprog. Den fungerer ved trin for trin at beregne det mest sandsynlige næste token. LLM'er skriver, opsummerer, oversætter, besvarer spørgsmål og genererer kode; kendte eksempler er Claude, GPT, Gemini og Llama. Uden adgang til aktuelle kilder ved de kun det, der stod i deres træningsdata.

Sprogmodeller
Generativ AI
+1

Retrieval pipeline

En retrieval pipeline er rækken af behandlingstrin, et system bruger til at finde de rigtige oplysninger til et spørgsmål. Typiske trin er: indlæsning og rensning af dokumenter, opdeling i chunks, opbygning af et søgeindeks, eventuelt omskrivning af forespørgslen, hentning af matches, rangering (reranking) og videregivelse af de bedste til sprogmodellen. Den er fundamentet for enhver RAG-applikation, og dens kvalitet er i høj grad afgørende for, hvor gode de endelige svar bliver.

RAG
søgning
+1

Information retrieval

Information retrieval omfatter metoder til at finde de dokumenter eller passager i en stor tekstmasse, der matcher en forespørgsel, og rangere dem efter relevans. Klassiske tilgange som BM25 vægter søgeord efter, hvor ofte og hvor sjældent de forekommer; nyere tilføjer semantisk lighed. Det ligger til grund for søgemaskiner, virksomhedssøgning og retrieval-augmented generation, hvor en sprogmodel bruger de hentede passager som grundlag for sit svar.

Søgning
BM25
+1