Glosář

Generování rozšířené o mezipaměť (CAG)

Co je Generování rozšířené o mezipaměť (CAG)?

Generování rozšířené o mezipaměť (Cache-augmented generation, CAG) je přístup, při kterém jazykový model nevyhledává znalosti u každé otázky. Místo toho se do jeho kontextového okna předem načte přehledná znalostní báze a tento stav se uloží do mezipaměti, takže odpovědi nevyžadují samostatný krok vyhledávání. Pojem zpopularizoval výzkumný článek z konce roku 2024 jako alternativu ke generování rozšířenému o vyhledávání (RAG). CAG se hodí pro malé a stabilní znalostní báze; u velkých nebo často se měnících dat zůstává RAG obvykle praktičtější.

Jak pomáhá KI.ordo

Pro znalosti KI.ordo používá na serveru vyhledávání podle klíčových slov BM25 a opakující se části zadání ukládá do mezipaměti pomocí prompt cachingu, aby snížil náklady.

Zjistit více

Témata

RAG
Kontextové okno
Správa znalostí

Vyzkoušet KI.ordo

Agenti, postupy a šablony v jednom pracovním prostoru – 24hodinové demo zdarma.

Spustit demo

← Všechny pojmy

Související pojmy

Retrieval-augmented generation (RAG)

Retrieval-augmented generation kombinuje vyhledávání s generováním textu: před odpovědí systém prohledá sbírku znalostí – například příručky, směrnice nebo časté dotazy – a relevantní pasáže předá jazykovému modelu jako kontext. Odpověď je tak založena na aktuálním obsahu specifickém pro firmu, a nikoli jen na znalostech z trénování modelu. Snižuje to vymyšlená tvrzení, zdroje jsou dohledatelné a aktualizace nevyžadují opakované trénování.

RAG
vyhledávání ve znalostech
+1

Velký jazykový model (LLM)

Velký jazykový model (LLM) je neuronová síť natrénovaná na velmi velkém množství textu, díky čemuž dokáže jazyk chápat a generovat. Funguje tak, že krok za krokem počítá nejpravděpodobnější další token. LLM píší, shrnují, překládají, odpovídají na otázky a generují kód; mezi známé příklady patří Claude, GPT, Gemini a Llama. Bez přístupu k aktuálním zdrojům vědí jen to, co bylo v jejich trénovacích datech.

jazykové modely
generativní AI
+1

Retrieval pipeline (vyhledávací řetězec)

Retrieval pipeline je posloupnost kroků zpracování, jimiž systém hledá správné informace k dotazu. Typické kroky jsou: načtení a vyčištění dokumentů, rozdělení na úseky (chunks), vytvoření vyhledávacího indexu, případné přeformulování dotazu, vyhledání shod, jejich seřazení (reranking) a předání nejlepších jazykovému modelu. Je základem každé aplikace RAG a její kvalita do značné míry určuje, jak dobré budou výsledné odpovědi.

RAG
vyhledávání
+1

Vyhledávání informací (information retrieval)

Vyhledávání informací zahrnuje metody, které ve velkém množství textu najdou dokumenty nebo úryvky odpovídající dotazu a seřadí je podle relevance. Klasické přístupy, například BM25, váží hledané výrazy podle toho, jak často a jak vzácně se vyskytují; novější přidávají sémantickou podobnost. Je základem vyhledávačů, podnikového vyhledávání a generování rozšířeného o vyhledávání (RAG), v němž jazykový model používá nalezené úryvky jako podklad pro svou odpověď.

Vyhledávání
BM25
+1