Glossar

Cache Augmented Generation (CAG)

Was ist Cache Augmented Generation (CAG)?

Cache Augmented Generation (CAG) ist ein Ansatz, bei dem ein Sprachmodell das benötigte Wissen nicht bei jeder Frage neu sucht, sondern den gesamten, überschaubaren Wissensbestand vorab in sein Kontextfenster lädt und diesen Zustand zwischenspeichert. Antworten entstehen dann ohne separaten Suchschritt. Der Begriff wurde Ende 2024 in einer Forschungsarbeit als Alternative zu Retrieval-Augmented Generation (RAG) bekannt. CAG eignet sich für kleinere, stabile Wissensbestände; bei großen oder häufig wechselnden Daten bleibt RAG meist praktikabler.

So hilft KI.ordo

KI.ordo nutzt für das Wissen eine BM25-Stichwortsuche auf dem Server und speichert wiederkehrende Anfragebestandteile per Prompt Caching zwischen, um Kosten zu senken.

Mehr erfahren →

Themen

RAG
Kontextfenster
Wissensmanagement

KI.ordo ausprobieren

Agenten, Abläufe und Vorlagen in einem Arbeitsbereich – 24 Stunden kostenlos als Demo.

Demo starten

← Alle Begriffe

Verwandte Begriffe

Retrieval-Augmented Generation (RAG)

Retrieval-Augmented Generation verbindet eine Suche mit der Textgenerierung: Vor dem Antworten sucht das System in einer Wissenssammlung – etwa Handbüchern, Richtlinien oder FAQ – die passenden Abschnitte und gibt sie dem Sprachmodell als Kontext mit. So stützt sich die Antwort auf aktuelle, unternehmenseigene Inhalte statt nur auf das Trainingswissen des Modells. Das verringert erfundene Aussagen, macht Quellen nachvollziehbar und erlaubt Aktualisierungen ohne neues Training.

RAG
Wissenssuche
+1

Großes Sprachmodell (LLM)

Ein großes Sprachmodell (Large Language Model, LLM) ist ein neuronales Netz, das mit sehr großen Textmengen trainiert wurde und dadurch Sprache verstehen und erzeugen kann. Es arbeitet, indem es Schritt für Schritt das wahrscheinlichste nächste Token berechnet. LLMs schreiben, fassen zusammen, übersetzen, beantworten Fragen und erzeugen Code; bekannte Beispiele sind Claude, GPT, Gemini und Llama. Ohne Zugriff auf aktuelle Quellen kennen sie nur den Stand ihrer Trainingsdaten.

Sprachmodelle
Generative KI
+1

Retrieval-Pipeline

Eine Retrieval-Pipeline ist die Abfolge von Verarbeitungsschritten, mit der ein System zu einer Frage die passenden Informationen findet. Typisch sind: Dokumente einlesen und bereinigen, in Abschnitte zerlegen, einen Suchindex aufbauen, die Anfrage gegebenenfalls umformulieren, Treffer suchen, sortieren (Reranking) und die besten an das Sprachmodell übergeben. Sie bildet das Fundament jeder RAG-Anwendung; ihre Qualität entscheidet maßgeblich darüber, wie gut die späteren Antworten sind.

RAG
Suche
+1

Informationsabruf

Informationsabruf (Information Retrieval) umfasst Verfahren, die aus großen Textbeständen die zu einer Anfrage passenden Dokumente oder Abschnitte finden und nach Relevanz sortieren. Klassische Methoden wie BM25 gewichten Suchbegriffe nach Häufigkeit und Seltenheit, neuere ergänzen semantische Ähnlichkeit. Informationsabruf ist die Grundlage von Suchmaschinen, Unternehmenssuche und Retrieval-Augmented Generation, bei der ein Sprachmodell gefundene Passagen als Grundlage seiner Antwort nutzt.

Suche
BM25
+1