Ordliste

Retrieval-augmented generation (RAG)

Hvad er Retrieval-augmented generation (RAG)?

Retrieval-augmented generation kombinerer søgning med tekstgenerering: før svaret søger systemet i en vidensamling – f.eks. manualer, politikker eller FAQ'er – efter relevante passager og giver dem til sprogmodellen som kontekst. Svaret bygger dermed på aktuelt, virksomhedsspecifikt indhold og ikke kun på modellens træningsviden. Det reducerer opfundne udsagn, gør kilder sporbare og muliggør opdateringer uden gentræning.

Sådan hjælper KI.ordo

Det er netop sådan, KI.ordo-agenter arbejder: De søger i den gemte viden med nøgleordssøgning (BM25) og svarer med kildehenvisninger.

Læs mere : Retrieval-augmented generation (RAG)

Emner

  • RAG
  • vidensøgning
  • sprogmodeller

Prøv KI.ordo

Agenter, flows og skabeloner i ét arbejdsområde – gratis demo i 24 timer.

Start demo
← Alle begreber

Relaterede begreber

Retrieval pipeline

En retrieval pipeline er rækken af behandlingstrin, et system bruger til at finde de rigtige oplysninger til et spørgsmål. Typiske trin er: indlæsning og rensning af dokumenter, opdeling i chunks, opbygning af et søgeindeks, eventuelt omskrivning af forespørgslen, hentning af matches, rangering (reranking) og videregivelse af de bedste til sprogmodellen. Den er fundamentet for enhver RAG-applikation, og dens kvalitet er i høj grad afgørende for, hvor gode de endelige svar bliver.

  • RAG
  • søgning
  • +1

Hallucination

En hallucination er output fra en AI-model, der lyder overbevisende, men er forkert eller helt opdigtet – f.eks. en ikke-eksisterende retsafgørelse, et forkert tal eller en opfundet kilde. Årsagen: Sprogmodeller frembringer sandsynlige formuleringer; de slår ikke automatisk fakta op. Risikoen falder, når svarene bygger på verificerede kilder, dokumentation angives, og mennesker kontrollerer vigtige resultater.

  • Sprogmodeller
  • Pålidelighed
  • +1
Skabelon

Cache-augmented generation (CAG)

Cache-augmented generation (CAG) er en tilgang, hvor en sprogmodel ikke søger efter viden ved hvert spørgsmål. I stedet indlæses en overskuelig videnbase på forhånd i modellens kontekstvindue, og denne tilstand caches, så svarene ikke kræver et separat søgetrin. Begrebet blev udbredt af en forskningsartikel fra slutningen af 2024 som et alternativ til retrieval-augmented generation (RAG). CAG egner sig til små, stabile videnbaser; ved store eller hyppigt skiftende data er RAG som regel stadig mere praktisk.

  • RAG
  • Kontekstvindue
  • +1

Information retrieval

Information retrieval omfatter metoder til at finde de dokumenter eller passager i en stor tekstmasse, der matcher en forespørgsel, og rangere dem efter relevans. Klassiske tilgange som BM25 vægter søgeord efter, hvor ofte og hvor sjældent de forekommer; nyere tilføjer semantisk lighed. Det ligger til grund for søgemaskiner, virksomhedssøgning og retrieval-augmented generation, hvor en sprogmodel bruger de hentede passager som grundlag for sit svar.

  • Søgning
  • BM25
  • +1