Slovník pojmov

Generovanie rozšírené o cache (CAG)

Čo je Generovanie rozšírené o cache (CAG)?

Generovanie rozšírené o cache (cache-augmented generation, CAG) je prístup, pri ktorom jazykový model nevyhľadáva znalosti pri každej otázke. Namiesto toho sa prehľadná znalostná báza vopred načíta do jeho kontextového okna a tento stav sa uloží do vyrovnávacej pamäte, takže odpovede nepotrebujú samostatný krok vyhľadávania. Pojem spopularizovala výskumná práca z konca roka 2024 ako alternatívu ku generovaniu rozšírenému o vyhľadávanie (RAG). CAG sa hodí pre malé, stabilné znalostné bázy; pri veľkých alebo často sa meniacich údajoch zostáva RAG zvyčajne praktickejší.

Ako pomáha KI.ordo

Pre znalosti používa KI.ordo na serveri vyhľadávanie podľa kľúčových slov BM25 a opakujúce sa časti zadania ukladá do vyrovnávacej pamäte pomocou prompt cachingu, aby znížilo náklady.

Zistiť viac

Témy

RAG
Kontextové okno
Manažment znalostí

Vyskúšajte KI.ordo

Agenti, postupy a šablóny v jednom pracovnom priestore – bezplatné 24-hodinové demo.

Spustiť demo

← Všetky pojmy

Súvisiace pojmy

Retrieval-augmented generation (RAG)

Retrieval-augmented generation spája vyhľadávanie s generovaním textu: pred odpoveďou systém vyhľadá relevantné pasáže v zbierke znalostí – napríklad v príručkách, smerniciach alebo FAQ – a odovzdá ich jazykovému modelu ako kontext. Odpoveď tak vychádza z aktuálneho obsahu špecifického pre firmu, a nielen z trénovacích znalostí modelu. Znižuje to vymyslené tvrdenia, zviditeľňuje zdroje a umožňuje aktualizácie bez pretrénovania.

RAG
vyhľadávanie v znalostiach
+1

Veľký jazykový model (LLM)

Veľký jazykový model (LLM, large language model) je neurónová sieť natrénovaná na veľmi veľkom množstve textu, vďaka čomu rozumie jazyku a dokáže ho tvoriť. Funguje tak, že krok za krokom vypočítava najpravdepodobnejší nasledujúci token. LLM píšu, zhŕňajú, prekladajú, odpovedajú na otázky a generujú kód; známymi príkladmi sú Claude, GPT, Gemini a Llama. Bez prístupu k aktuálnym zdrojom vedia len to, čo bolo v ich trénovacích údajoch.

jazykové modely
generatívna AI
+1

Retrieval pipeline

Retrieval pipeline je postupnosť spracovateľských krokov, ktorými systém nájde správne informácie na zodpovedanie otázky. Typické kroky sú: načítanie a vyčistenie dokumentov, ich rozdelenie na úseky (chunky), vytvorenie vyhľadávacieho indexu, prípadne preformulovanie dopytu, vyhľadanie zhôd, ich zoradenie (reranking) a odovzdanie tých najlepších jazykovému modelu. Je základom každej aplikácie RAG a jej kvalita vo veľkej miere určuje, aké dobré budú výsledné odpovede.

RAG
vyhľadávanie
+1

Vyhľadávanie informácií (information retrieval)

Vyhľadávanie informácií (information retrieval) zahŕňa metódy, ktoré vo veľkom súbore textov nájdu dokumenty alebo úryvky zodpovedajúce dopytu a zoradia ich podľa relevantnosti. Klasické prístupy, ako je BM25, váhujú hľadané výrazy podľa toho, ako často a ako zriedka sa vyskytujú; novšie pridávajú sémantickú podobnosť. Tvorí základ vyhľadávačov, podnikového vyhľadávania a generovania rozšíreného o vyhľadávanie (RAG), pri ktorom jazykový model používa nájdené úryvky ako základ svojej odpovede.

Vyhľadávanie
BM25
+1