Glosar

Generare augmentată prin cache (CAG)

Ce este Generare augmentată prin cache (CAG)?

Generarea augmentată prin cache (CAG) este o abordare în care un model lingvistic nu caută cunoștințe la fiecare întrebare. În schimb, o bază de cunoștințe de dimensiuni rezonabile este încărcată în avans în fereastra sa de context, iar această stare este stocată în cache, astfel încât răspunsurile nu necesită un pas separat de regăsire. Termenul a fost popularizat de o lucrare de cercetare de la sfârșitul anului 2024, ca alternativă la generarea augmentată prin regăsire (RAG). CAG se potrivește bazelor de cunoștințe mici și stabile; pentru date mari sau care se schimbă frecvent, RAG rămâne de obicei mai practic.

Cum ajută KI.ordo

Pentru cunoștințe, KI.ordo utilizează pe server căutarea după cuvinte-cheie BM25 și stochează în cache componentele recurente ale prompturilor prin prompt caching, pentru a reduce costurile.

Aflați mai multe

Subiecte

RAG
Fereastră de context
Managementul cunoștințelor

Încercați KI.ordo

Agenți, fluxuri și șabloane într-un singur spațiu de lucru – demo gratuit de 24 de ore.

Porniți demo-ul

← Toți termenii

Termeni înrudiți

Generare augmentată prin regăsire (RAG)

Generarea augmentată prin regăsire combină căutarea cu generarea de text: înainte de a răspunde, sistemul caută într-o colecție de cunoștințe – de exemplu manuale, regulamente sau FAQ-uri – pasajele relevante și le transmite modelului lingvistic drept context. Răspunsul se bazează astfel pe conținut actual, specific companiei, și nu doar pe cunoștințele de antrenare ale modelului. Aceasta reduce afirmațiile inventate, face sursele verificabile și permite actualizări fără reantrenare.

RAG
căutare în cunoștințe
+1

Model lingvistic de mari dimensiuni (LLM)

Un model lingvistic de mari dimensiuni (LLM) este o rețea neuronală antrenată pe cantități foarte mari de text, ceea ce îi permite să înțeleagă și să genereze limbaj. Funcționează calculând, pas cu pas, cel mai probabil token următor. LLM-urile scriu, rezumă, traduc, răspund la întrebări și generează cod; exemple cunoscute sunt Claude, GPT, Gemini și Llama. Fără acces la surse actuale, ele știu doar ce se afla în datele lor de antrenare.

modele lingvistice
IA generativă
+1

Pipeline de regăsire

Un pipeline de regăsire este succesiunea de pași de prelucrare prin care un sistem găsește informațiile potrivite pentru o întrebare. Pașii tipici sunt: preluarea și curățarea documentelor, împărțirea lor în fragmente (chunk-uri), crearea unui index de căutare, eventual reformularea interogării, regăsirea potrivirilor, ordonarea lor (reranking) și transmiterea celor mai bune către modelul lingvistic. Este fundamentul oricărei aplicații RAG, iar calitatea sa determină în mare măsură cât de bune sunt răspunsurile obținute.

RAG
căutare
+1

Regăsirea informațiilor

Regăsirea informațiilor (information retrieval) cuprinde metodele care găsesc, într-un volum mare de text, documentele sau pasajele ce corespund unei interogări și le ordonează după relevanță. Abordările clasice, precum BM25, ponderează termenii de căutare după cât de des și cât de rar apar; cele mai noi adaugă similitudinea semantică. Stă la baza motoarelor de căutare, a căutării în întreprindere și a retrieval-augmented generation, în care un model lingvistic folosește pasajele regăsite ca bază pentru răspunsul său.

Căutare
BM25
+1