Sanasto

Välimuistilla tehostettu generointi (CAG)

Mikä on Välimuistilla tehostettu generointi (CAG)?

Välimuistilla tehostettu generointi (cache-augmented generation, CAG) on lähestymistapa, jossa kielimalli ei hae tietoa jokaisen kysymyksen yhteydessä. Sen sijaan hallittavan kokoinen tietopohja ladataan etukäteen mallin kontekstiikkunaan ja tämä tila tallennetaan välimuistiin, joten vastaukset eivät vaadi erillistä hakuvaihetta. Termin teki tunnetuksi vuoden 2024 lopulla julkaistu tutkimusartikkeli vaihtoehtona hakuun perustuvalle generoinnille (RAG). CAG sopii pieniin ja vakaisiin tietopohjiin; suurille tai usein muuttuville aineistoille RAG on yleensä käytännöllisempi.

Miten KI.ordo auttaa

Tietämyksessä KI.ordo käyttää palvelimella BM25-avainsanahakua ja tallentaa toistuvat kehotteen osat välimuistiin prompt caching -tekniikalla kustannusten vähentämiseksi.

Lue lisää

Aiheet

RAG
Kontekstiikkuna
Tietämyksenhallinta

Kokeile KI.ordoa

Agentit, työnkulut ja mallit yhdessä työtilassa – maksuton 24 tunnin demo.

Aloita demo

← Kaikki termit

Liittyvät termit

Hakuvahvistettu generointi (RAG)

Hakuvahvistettu generointi (retrieval-augmented generation) yhdistää haun ja tekstin tuottamisen: ennen vastaamista järjestelmä hakee tietokokoelmasta – esimerkiksi käsikirjoista, ohjeistuksista tai UKK:sta – asiaankuuluvia kohtia ja välittää ne kielimallille kontekstina. Vastaus perustuu siten ajantasaiseen, yrityskohtaiseen sisältöön eikä pelkästään mallin opetustietoon. Tämä vähentää keksittyjä väitteitä, tekee lähteistä jäljitettäviä ja mahdollistaa päivitykset ilman uudelleenopetusta.

RAG
tietämyshaku
+1

Suuri kielimalli (LLM)

Suuri kielimalli (LLM) on neuroverkko, joka on koulutettu hyvin suurilla tekstimäärillä, jotta se ymmärtää ja tuottaa kieltä. Se toimii laskemalla askel askeleelta todennäköisimmän seuraavan tokenin. LLM:t kirjoittavat, tiivistävät, kääntävät, vastaavat kysymyksiin ja tuottavat koodia; tunnettuja esimerkkejä ovat Claude, GPT, Gemini ja Llama. Ilman pääsyä ajankohtaisiin lähteisiin ne tietävät vain sen, mitä niiden koulutusdatassa oli.

kielimallit
generatiivinen tekoäly
+1

Hakuputki

Hakuputki (retrieval pipeline) on järjestelmän käyttämä käsittelyvaiheiden sarja, jolla se löytää oikeat tiedot kysymykseen. Tyypillisiä vaiheita ovat: asiakirjojen tuonti ja puhdistus, jakaminen osiin (chunk), hakuindeksin rakentaminen, tarvittaessa kyselyn uudelleenmuotoilu, osumien haku, niiden järjestäminen (reranking) ja parhaiden välittäminen kielimallille. Se on jokaisen RAG-sovelluksen perusta, ja sen laatu määrittää pitkälti, kuinka hyviä vastauksia saadaan.

RAG
haku
+1

Tiedonhaku

Tiedonhaku kattaa menetelmät, jotka löytävät suuresta tekstimassasta kyselyyn sopivat dokumentit tai tekstikohdat ja järjestävät ne relevanssin mukaan. Klassiset lähestymistavat, kuten BM25, painottavat hakutermejä sen mukaan, kuinka usein ja kuinka harvoin ne esiintyvät; uudemmat lisäävät semanttisen samankaltaisuuden. Se on hakukoneiden, yrityshaun ja hakuun perustuvan generoinnin perusta, jossa kielimalli käyttää haettuja tekstikohtia vastauksensa pohjana.

Haku
BM25
+1