Glosārijs

Kešatmiņā papildināta ģenerēšana (CAG)

Kas ir Kešatmiņā papildināta ģenerēšana (CAG)?

Kešatmiņā papildināta ģenerēšana (cache-augmented generation, CAG) ir pieeja, kurā valodas modelis nemeklē zināšanas pie katra jautājuma. Tā vietā pārskatāma zināšanu bāze tiek iepriekš ielādēta tā konteksta logā un šis stāvoklis tiek saglabāts kešatmiņā, tāpēc atbildēm nav vajadzīgs atsevišķs izguves solis. Terminu popularizēja 2024. gada beigās publicēts pētījums kā alternatīvu izguvē papildinātai ģenerēšanai (RAG). CAG ir piemērota mazām, stabilām zināšanu bāzēm; lieliem vai bieži mainīgiem datiem RAG parasti joprojām ir praktiskāka.

Kā palīdz KI.ordo

Zināšanām KI.ordo serverī izmanto BM25 atslēgvārdu meklēšanu un ar uzvedņu kešošanu (prompt caching) saglabā kešatmiņā atkārtotas uzvedņu daļas, lai samazinātu izmaksas.

Uzzināt vairāk

Tēmas

RAG
Konteksta logs
Zināšanu pārvaldība

Izmēģiniet KI.ordo

Aģenti, plūsmas un veidnes vienā darbvietā – bezmaksas 24 stundu demo.

Sākt demo

← Visi termini

Saistītie termini

Ar izgūšanu papildināta ģenerēšana (RAG)

Ar izgūšanu papildināta ģenerēšana apvieno meklēšanu ar teksta ģenerēšanu: pirms atbildes sniegšanas sistēma zināšanu krājumā — piemēram, rokasgrāmatās, politikās vai BUJ — meklē atbilstošus fragmentus un nodod tos valodas modelim kā kontekstu. Tādējādi atbilde balstās uz aktuālu, uzņēmumam raksturīgu saturu, nevis tikai uz modeļa apmācības zināšanām. Tas samazina izdomātus apgalvojumus, padara avotus izsekojamus un ļauj atjaunināt bez atkārtotas apmācības.

RAG
zināšanu meklēšana
+1

Lielais valodas modelis (LLM)

Lielais valodas modelis (LLM) ir neironu tīkls, kas apmācīts ar ļoti lieliem teksta apjomiem, tāpēc spēj saprast un ģenerēt valodu. Tas darbojas, soli pa solim aprēķinot visticamāko nākamo tokenu. LLM raksta, apkopo, tulko, atbild uz jautājumiem un ģenerē kodu; plaši zināmi piemēri ir Claude, GPT, Gemini un Llama. Bez piekļuves aktuāliem avotiem tie zina tikai to, kas bija to apmācības datos.

Valodas modeļi
Ģeneratīvais MI
+1

Izgūšanas konveijers

Izgūšanas konveijers ir apstrādes soļu secība, ko sistēma izmanto, lai atrastu pareizo informāciju jautājumam. Tipiski soļi ir: dokumentu ielāde un tīrīšana, sadalīšana fragmentos, meklēšanas indeksa izveide, pēc izvēles vaicājuma pārformulēšana, atbilstību izgūšana, to sakārtošana (pārrangēšana) un labāko nodošana valodas modelim. Tas ir katras RAG lietojumprogrammas pamats, un tā kvalitāte lielā mērā nosaka, cik labas ir iegūtās atbildes.

RAG
meklēšana
+1

Informācijas izguve

Informācijas izguve aptver metodes, kas lielā tekstu apjomā atrod dokumentus vai fragmentus, kuri atbilst vaicājumam, un sakārto tos pēc atbilstības. Klasiskas pieejas, piemēram, BM25, meklēšanas terminiem piešķir svaru pēc tā, cik bieži un cik reti tie sastopami; jaunākas pievieno semantisko līdzību. Tā ir meklētājprogrammu, uzņēmuma meklēšanas un ar izguvi papildinātās ģenerēšanas pamatā, kurā valodas modelis izgūtos fragmentus izmanto kā atbildes pamatu.

Meklēšana
BM25
+1