Woordenlijst

Cache-augmented generation (CAG)

Wat is Cache-augmented generation (CAG)?

Cache-augmented generation (CAG) is een aanpak waarbij een taalmodel niet bij elke vraag naar kennis zoekt. In plaats daarvan wordt een overzichtelijke kennisbank vooraf in het contextvenster geladen en wordt die toestand gecachet, zodat antwoorden geen aparte zoekstap nodig hebben. De term werd populair door een onderzoeksartikel van eind 2024 als alternatief voor retrieval-augmented generation (RAG). CAG is geschikt voor kleine, stabiele kennisbanken; voor grote of vaak veranderende data blijft RAG meestal praktischer.

Hoe KI.ordo helpt

Voor kennis gebruikt KI.ordo BM25-trefwoordzoeken op de server en plaatst terugkerende onderdelen van opdrachten via prompt caching in de cache om kosten te verlagen.

Meer informatie

Onderwerpen

RAG
Contextvenster
Kennisbeheer

KI.ordo uitproberen

Agents, workflows en sjablonen in één werkruimte – gratis demo van 24 uur.

Demo starten

← Alle begrippen

Verwante begrippen

Retrieval-augmented generation (RAG)

Retrieval-augmented generation combineert zoeken met tekstgeneratie: voordat het antwoordt, doorzoekt het systeem een kennisverzameling – zoals handleidingen, richtlijnen of veelgestelde vragen – op relevante passages en geeft die als context aan het taalmodel. Het antwoord is daardoor gebaseerd op actuele, bedrijfsspecifieke inhoud en niet alleen op de trainingskennis van het model. Dit vermindert verzonnen beweringen, maakt bronnen controleerbaar en maakt updates mogelijk zonder opnieuw te trainen.

RAG
kennis zoeken
+1

Groot taalmodel (LLM)

Een groot taalmodel (large language model, LLM) is een neuraal netwerk dat is getraind op zeer grote hoeveelheden tekst, waardoor het taal kan begrijpen en genereren. Het werkt door stap voor stap het meest waarschijnlijke volgende token te berekenen. LLM’s schrijven, vatten samen, vertalen, beantwoorden vragen en genereren code; bekende voorbeelden zijn Claude, GPT, Gemini en Llama. Zonder toegang tot actuele bronnen weten ze alleen wat in hun trainingsdata stond.

Taalmodellen
Generatieve AI
+1

Retrievalpipeline

Een retrievalpipeline is de reeks verwerkingsstappen waarmee een systeem de juiste informatie bij een vraag vindt. Typische stappen zijn: documenten inlezen en opschonen, opdelen in chunks, een zoekindex opbouwen, eventueel de zoekopdracht herschrijven, treffers ophalen, rangschikken (reranking) en de beste doorgeven aan het taalmodel. Het is de basis van elke RAG-toepassing, en de kwaliteit ervan bepaalt grotendeels hoe goed de resulterende antwoorden zijn.

RAG
zoeken
+1

Information retrieval

Information retrieval omvat methoden waarmee in een grote hoeveelheid tekst de documenten of passages worden gevonden die bij een zoekvraag passen, en die op relevantie worden gerangschikt. Klassieke benaderingen zoals BM25 wegen zoektermen naar hoe vaak en hoe zelden ze voorkomen; nieuwere voegen semantische gelijkenis toe. Het vormt de basis van zoekmachines, enterprise search en retrieval-augmented generation, waarbij een taalmodel de opgehaalde passages als basis voor zijn antwoord gebruikt.

Zoeken
BM25
+1