Terminų žodynas

Talpykla papildytas generavimas (CAG)

Kas yra Talpykla papildytas generavimas (CAG)?

Talpykla papildytas generavimas (CAG) – metodas, kai kalbos modelis neieško žinių su kiekvienu klausimu. Vietoj to nedidelė žinių bazė iš anksto įkeliama į jo konteksto langą, o ši būsena išsaugoma talpykloje, todėl atsakymams nereikia atskiro paieškos žingsnio. Terminą išpopuliarino 2024 m. pabaigos mokslinis straipsnis kaip alternatyvą paieška papildytam generavimui (RAG). CAG tinka mažoms, stabilioms žinių bazėms; dideliems ar dažnai besikeičiantiems duomenims RAG paprastai lieka praktiškesnis.

Kaip padeda KI.ordo

Žinioms KI.ordo serveryje naudoja BM25 raktažodžių paiešką, o pasikartojančias užklausų dalis išsaugo talpykloje (prompt caching), kad sumažintų išlaidas.

Sužinoti daugiau

Temos

RAG
Konteksto langas
Žinių valdymas

Išbandykite KI.ordo

Agentai, srautai ir šablonai vienoje darbo srityje – nemokama 24 valandų demonstracinė versija.

Pradėti demonstraciją

← Visi terminai

Susiję terminai

Papildyta paieškos generacija (RAG)

Papildyta paieškos generacija (angl. retrieval-augmented generation) sujungia paiešką su tekstų generavimu: prieš atsakydama sistema žinių rinkinyje – pavyzdžiui, instrukcijose, taisyklėse ar DUK – ieško svarbių ištraukų ir perduoda jas kalbos modeliui kaip kontekstą. Todėl atsakymas remiasi aktualiu, įmonei specifiniu turiniu, o ne tik modelio mokymo žiniomis. Tai sumažina išgalvotus teiginius, leidžia atsekti šaltinius ir atnaujinti turinį be permokymo.

RAG
žinių paieška
+1

Didysis kalbos modelis (LLM)

Didysis kalbos modelis (angl. large language model, LLM) – tai neuroninis tinklas, apmokytas su labai dideliais teksto kiekiais, todėl gebantis suprasti ir generuoti kalbą. Jis veikia žingsnis po žingsnio skaičiuodamas labiausiai tikėtiną kitą tokeną. LLM rašo, apibendrina, verčia, atsako į klausimus ir generuoja kodą; gerai žinomi pavyzdžiai – „Claude“, GPT, „Gemini“ ir „Llama“. Neturėdami prieigos prie aktualių šaltinių, jie žino tik tai, kas buvo jų mokymo duomenyse.

kalbos modeliai
generatyvinis DI
+1

Paieškos grandinė

Paieškos grandinė (angl. retrieval pipeline) – apdorojimo žingsnių seka, kuria sistema suranda tinkamą informaciją klausimui. Tipiniai žingsniai: dokumentų įkėlimas ir valymas, skaidymas į fragmentus, paieškos indekso kūrimas, pasirinktinai užklausos perrašymas, atitikmenų paieška, jų reitingavimas (reranking) ir geriausių perdavimas kalbos modeliui. Tai kiekvienos RAG programos pagrindas, o jos kokybė daugiausia lemia, kokie geri bus atsakymai.

RAG
paieška
+1

Informacijos paieška (information retrieval)

Informacijos paieška apima metodus, kurie dideliame teksto kiekyje randa užklausą atitinkančius dokumentus ar ištraukas ir surikiuoja jas pagal aktualumą. Klasikiniai metodai, tokie kaip BM25, paieškos terminus sveria pagal tai, kaip dažnai ir kaip retai jie pasitaiko; naujesni prideda semantinį panašumą. Ji yra paieškos sistemų, įmonių paieškos ir paieška papildyto generavimo pagrindas, kai kalbos modelis rastas ištraukas naudoja kaip atsakymo pagrindą.

Paieška
BM25
+1