Fogalomtár

Visszakeresésalapú generálás (RAG)

Mi a(z) Visszakeresésalapú generálás (RAG)?

A visszakeresésalapú generálás a keresést a szöveggeneráláshoz kapcsolja: a válasz előtt a rendszer egy tudásgyűjteményben – például kézikönyvekben, irányelvekben vagy GYIK-ekben – releváns részleteket keres, és ezeket kontextusként átadja a nyelvi modellnek. A válasz így naprakész, vállalatspecifikus tartalmakon alapul, nem csak a modell tanítási tudásán. Ez csökkenti a kitalált állításokat, nyomon követhetővé teszi a forrásokat, és újratanítás nélküli frissítést tesz lehetővé.

Így segít a KI.ordo

A KI.ordo ügynökei pontosan így működnek: kulcsszavas kereséssel (BM25) keresnek a tárolt tudásban, és forrásmegjelölésekkel válaszolnak.

További információ

Témák

RAG
tudáskeresés
nyelvi modellek

Próbálja ki a KI.ordót

Ügynökök, munkafolyamatok és sablonok egyetlen munkaterületen – ingyenes, 24 órás demó.

Demó indítása

← Minden fogalom

Kapcsolódó fogalmak

Visszakeresési folyamat (retrieval pipeline)

A visszakeresési folyamat azoknak a feldolgozási lépéseknek a sorozata, amelyekkel a rendszer egy kérdéshez megtalálja a megfelelő információt. Tipikus lépések: a dokumentumok beolvasása és megtisztítása, darabokra (chunk) bontása, keresési index építése, adott esetben a lekérdezés átfogalmazása, a találatok lekérése, rangsorolása (reranking), majd a legjobbak átadása a nyelvi modellnek. Ez minden RAG-alkalmazás alapja, és minősége nagyban meghatározza, mennyire jók lesznek a válaszok.

RAG
keresés
+1

Hallucináció

A hallucináció egy MI-modell meggyőzően hangzó, de téves vagy teljesen kitalált kimenete – például egy nem létező bírósági ítélet, egy hibás szám vagy egy kitalált forrás. Az ok: a nyelvi modellek valószínű megfogalmazásokat állítanak elő, nem keresnek fel automatikusan tényeket. A kockázat csökken, ha a válaszok ellenőrzött forrásokon alapulnak, bizonyítékokat hivatkoznak, és emberek ellenőrzik a fontos eredményeket.

nyelvi modellek
megbízhatóság
+1

Sablon

Gyorsítótárral bővített generálás (CAG)

A gyorsítótárral bővített generálás (cache-augmented generation, CAG) olyan megközelítés, amelyben a nyelvi modell nem keres tudást minden egyes kérdésnél. Ehelyett egy áttekinthető méretű tudásbázist előre betöltenek a kontextusablakába, és ezt az állapotot gyorsítótárazzák, így a válaszokhoz nincs szükség külön visszakeresési lépésre. A kifejezést egy 2024 végi kutatási tanulmány tette népszerűvé a visszakereséssel bővített generálás (RAG) alternatívájaként. A CAG kis, stabil tudásbázisokhoz illik; nagy vagy gyakran változó adatok esetén általában a RAG marad a praktikusabb.

RAG
Kontextusablak
+1

Információkeresés

Az információkeresés (information retrieval) azokat a módszereket foglalja magában, amelyek egy nagy szövegállományban megtalálják a lekérdezésnek megfelelő dokumentumokat vagy szövegrészleteket, és relevancia szerint rangsorolják őket. A klasszikus megközelítések, például a BM25, a keresőszavakat aszerint súlyozzák, milyen gyakran és milyen ritkán fordulnak elő; az újabbak szemantikus hasonlóságot is bevonnak. Ez áll a keresőmotorok, a vállalati keresés és a visszakeresésalapú generálás mögött, amelyben egy nyelvi modell a visszakeresett részleteket használja válasza alapjául.

Keresés
BM25
+1