Pojmovnik

Generiranje obogaćeno predmemorijom (CAG)

Što je Generiranje obogaćeno predmemorijom (CAG)?

Generiranje obogaćeno predmemorijom (CAG) pristup je u kojem jezični model ne pretražuje znanje pri svakom pitanju. Umjesto toga, pregledna baza znanja unaprijed se učitava u njegov kontekstni prozor i to se stanje pohranjuje u predmemoriju, tako da odgovori ne zahtijevaju zaseban korak dohvaćanja. Pojam je populariziran istraživačkim radom s kraja 2024. kao alternativa generiranju obogaćenom dohvaćanjem (RAG). CAG je prikladan za male, stabilne baze znanja; za velike ili često promjenjive podatke RAG je obično i dalje praktičniji.

Kako KI.ordo pomaže

Za znanje KI.ordo koristi BM25 pretraživanje po ključnim riječima na poslužitelju, a ponavljajuće dijelove upita pohranjuje u predmemoriju pomoću predmemoriranja upita (prompt caching) radi smanjenja troškova.

Saznajte više

Teme

RAG
Kontekstni prozor
Upravljanje znanjem

Isprobajte KI.ordo

Agenti, tijekovi rada i predlošci u jednom radnom prostoru – besplatna demo verzija na 24 sata.

Pokrenite demo

← Svi pojmovi

Srodni pojmovi

Generiranje potpomognuto dohvaćanjem (RAG)

Generiranje potpomognuto dohvaćanjem povezuje pretraživanje i generiranje teksta: prije odgovaranja sustav u zbirci znanja – primjerice priručnicima, pravilnicima ili čestim pitanjima – traži relevantne odlomke i prosljeđuje ih jezičnom modelu kao kontekst. Odgovor se tako temelji na aktualnom sadržaju specifičnom za tvrtku, a ne samo na znanju stečenom treniranjem modela. To smanjuje izmišljene tvrdnje, omogućuje praćenje izvora i dopušta ažuriranja bez ponovnog treniranja.

RAG
pretraživanje znanja
+1

Veliki jezični model (LLM)

Veliki jezični model (LLM) neuronska je mreža trenirana na vrlo velikim količinama teksta, zahvaljujući čemu može razumjeti i generirati jezik. Radi tako da korak po korak izračunava najvjerojatniji sljedeći token. LLM-ovi pišu, sažimaju, prevode, odgovaraju na pitanja i generiraju kod; poznati primjeri su Claude, GPT, Gemini i Llama. Bez pristupa aktualnim izvorima znaju samo ono što je bilo u njihovim podacima za treniranje.

Jezični modeli
Generativna UI
+1

Cjevovod dohvaćanja (retrieval pipeline)

Cjevovod dohvaćanja niz je koraka obrade kojima sustav pronalazi prave informacije za neko pitanje. Tipični koraci su: preuzimanje i čišćenje dokumenata, njihovo dijeljenje na odlomke (chunkove), izgradnja indeksa za pretraživanje, po potrebi preoblikovanje upita, dohvaćanje pogodaka, njihovo rangiranje (reranking) i prosljeđivanje najboljih jezičnom modelu. To je temelj svake RAG aplikacije, a njegova kvaliteta uvelike određuje koliko će dobri biti dobiveni odgovori.

RAG
pretraga
+1

Dohvaćanje informacija (information retrieval)

Dohvaćanje informacija (information retrieval) obuhvaća metode koje u velikom korpusu teksta pronalaze dokumente ili odlomke koji odgovaraju upitu i rangiraju ih prema relevantnosti. Klasični pristupi poput BM25 ponderiraju pojmove pretrage prema tome koliko se često i koliko rijetko pojavljuju; noviji dodaju semantičku sličnost. Temelj je tražilica, pretraživanja unutar poduzeća i generiranja potpomognutog dohvaćanjem, u kojem jezični model dohvaćene odlomke koristi kao osnovu za svoj odgovor.

Pretraživanje
BM25
+1